AI安全之争：是安全，还是控制？

编者按：当“安全”成为AI行业最响亮的词汇，它究竟在保护谁、又在限制谁？这个问题可能比任何一场技术路线之争都更值得追问。

一句呼吁，两种解读

Anthropic首席执行官达里奥·阿莫迪（Dario Amodei）再度公开呼吁，各国政府应就人工智能安全建立全球协调机制，用统一的测试标准、透明度要求与责任框架来约束前沿模型的开发。在他看来，这项技术的影响足以比肩核武器，任何单一国家单独行动都不足以应对风险。

但这一呼吁并没有获得一致认同。TechCrunch的报道指出，批评者的质疑并不在于“要不要安全”，而在于“谁来定义安全、安全由谁执行”。当一家身处行业头部、手中握着最强模型的公司主动要求监管时，人们有理由追问：它是在为公共利益发声，还是在为后来者筑墙？

“安全”如何变成护城河

“监管俘获”（regulatory capture）是这场争论中被反复提及的概念。其逻辑并不复杂：合规成本对大公司而言是可控的开支，对初创团队却可能是生死线。当安全测试、算力披露、第三方审计成为准入门槛，受益者往往不是公众，而是已经跨过门槛的玩家。

开源社区对此尤为敏感。模型权重一旦公开便难以收回，而“安全评估”很容易成为限制开源的理由。硅谷部分投资人的立场更为直白：当前围绕存在性风险的讨论被明显夸大，其实际效果是让少数几家公司获得对技术发展节奏的否决权。在他们看来，这不是安全，而是控制。

另一种批评：安全被定义得太窄

耐人寻味的是，来自另一端的批评恰恰相反。长期研究算法偏见与社会影响的学者认为，主流“AI安全”话语把过多注意力投向了假设中的超级智能，却忽略了正在发生的伤害——歧视性算法、数据劳工剥削、版权争议、信息生态污染。梅雷迪思·惠特克（Meredith Whittaker）等人批评这种做法把安全问题从当下挪到了未来，让最紧迫的现实风险反而得以免责。

于是出现了奇特的分裂：一派认为安全话语是控制工具，另一派认为安全话语是转移视线。两者共同的潜台词是，讨论的焦点早已不只是技术。

阿莫迪的立场并非孤例

从全球AI安全峰会到欧盟《人工智能法案》，再到加州一系列前沿模型立法尝试，监管议题已从学术圈走入政治议程。支持者的类比是药品审批：正因为新药可能致命，上市前的测试与披露才成为必要的公共基础设施，而不是某家企业的特权。

反对者则提醒，药物有明确的伤害机制和可验证的临床试验终点，而“前沿模型风险”至今缺乏可量化的评估标准。在指标模糊的情况下赋予监管者裁量权，风险本身可能比技术更大。

真正的问题：谁有权按下暂停键

争论的核心其实是权力分配。如果安全标准由少数实验室与政府共同制定，那么“安全”与“控制”之间的边界就会持续模糊。图灵奖得主杨立昆（Yann LeCun）等人主张，开源反而更安全，因为审查分散在更多人手中；而阿莫迪一方则认为，能力越强，集中化管控就越必要。两种判断背后，是对技术演化速度与人类社会适应能力的不同估计。

更现实的难题在于：即便各方都同意需要规则，规则该由谁写、以何种速度落地、对违规者如何追责，仍然没有共识。全球协调听起来理想，但在大国竞争与商业利益交织的当下，它更像是一个方向，而非一份可执行的路线图。

结语

这场辩论短期内不会产生赢家。但至少有一点正在成为共识：需要被讨论的对象不只是技术本身，还包括谁来决定技术被允许走多远。把“安全”当作不容置疑的旗帜，只会让真正的问题继续躲在那面旗帜后面。

本文编译自TechCrunch