OpenAI首席科学家:给AI限速,先得说清怎么测速

OpenAI首席科学家:给AI限速,先得说清怎么测速

在AI能力以月为单位迭代的当下,“给AI发展限速”已不再是科幻式的担忧,而是摆在各国监管者与前沿实验室面前的现实议题。据TechCrunch报道,OpenAI首席科学家就“如何限制AI发展”发表了自己的看法,其核心观点可以用一句话概括:要给AI发展设定速度上限,首先必须就“如何衡量速度”达成共识。

这句看似技术性的表述,实际上点中了AI治理最深的痛点。过去几年,围绕AI安全的讨论大多停留在原则层面——透明度、可解释性、对齐、红队测试。但当监管者真正试图“踩刹车”时,会立刻发现一个尴尬的事实:我们连AI到底跑得多快,都还没有公认的度量方式。

为什么要给AI发展“限速”

算力规模、模型参数量、训练数据量与推理成本,是过去衡量AI进展最常用的几把尺子。但随着模型能力向多模态、智能体(Agent)、长程推理等方向延伸,单纯的规模指标越来越难以反映“能力”的跃迁。一个参数更少的模型,可能在实际任务中表现更强;一次看似微小的架构改动,也可能带来能力上的非线性提升。正因如此,业界才不断呼吁建立某种“发展速度”的监测机制:如果某段时间内模型能力出现异常陡峭的上升,监管与安全评估就应当同步升级。

真正的难题:速度如何衡量

要对AI发展设定速度限制,你必须先就如何衡量速度达成一致。

这句话的潜台词是,限速的前提是“可测”。而“可测”在AI领域恰恰是最难的部分。首先是定义问题:速度指的是训练算力的增长速度、模型在标准评测集上的分数提升,还是模型在真实世界中自主完成任务的能力边界?不同定义会导出完全不同的政策结论。其次是评测本身的可信度:主流基准(benchmark)存在数据污染、饱和与过拟合风险,模型开发者与监管者之间也缺乏一套共同认可的第三方评测体系。最后是时间尺度问题:AI能力的跃升往往是阶跃式的,而非线性的,用“每年提升多少分”这样的线性指标去套,很容易低估突变风险。

编者按:从评测基准到治理工具

值得注意的是,把“测速”摆上台面,意味着AI安全讨论正在从“原则宣言”走向“工程化治理”。一旦业界与监管方就度量口径达成一致,这套指标就可能同时扮演三种角色:实验室内部的风险预警仪表盘、第三方审计的评分标准,以及触发更严格监管的“阈值开关”。这也解释了为什么OpenAI这样的前沿实验室会主动谈论限速——与其被动接受外部强加的、可能并不科学的指标,不如先参与制定标准。

当然,共识的建立不会轻松。不同国家、不同实验室、开源与闭源阵营之间,对“能力”与“风险”的容忍度差异巨大。可测量性本身也可能带来新的博弈:指标一旦成为监管门槛,就可能被“优化”甚至被绕过,重演学术评测中的“刷榜”现象。

但方向是清晰的。AI治理的下一步,大概率不是更宏大的宣言,而是更具体的度量:一套各方都能接受、可复现、可审计的能力与发展速度评估框架。谁能定义“速度”,谁就在很大程度上掌握了AI发展节奏的话语权。

本文编译自TechCrunch