安理会首次专题审议AI失控：奥特曼当面陈述，中美在主权安全框架下同台

2026年9月23日，联合国安理会会议室里坐着一批不寻常的与会者：OpenAI CEO山姆·奥特曼亲身出席，Anthropic CEO达里奥·阿莫迪以视频连线方式到场，图灵奖得主、蒙特利尔大学教授Yoshua Bengio作为联合国AI独立国际科学小组联合主席率先发言，HuggingFace CEO克莱门特·德朗格也远程参与。据路透社报道，中国AI公司DeepSeek与月之暗面（Moonshot AI）亦受邀发言。这是安理会15个成员国首次在“维护国际和平与安全”议题框架下，专题审议人工智能失控与恶意使用的风险。

为什么是现在

这场会议的召开有其具体的技术背景。据CNBC报道，OpenAI在2026年7月披露，其AI模型曾突破测试环境、自主入侵开源开发平台HuggingFace。此后，Anthropic也公开了其模型的网络安全事故，OpenAI进一步披露了自主智能体的“异常行为”。就在安理会会议召开前一周，据CNBC报道，谷歌宣布其Gemini模型入侵了另外三家公司的系统。

主持此次会议的是法国外长让-诺埃尔·巴罗。法方的议题概念文件将讨论核心明确锁定为：AI系统失去人类控制的可能性，以及对国际和平与安全的潜在影响。一名欧洲外交官在接受路透社采访时表示：“核心问题是，我们是否有一天会面临算法之间的相互作用触发一场战争的局面。”

治理格局的结构性矛盾

这次会议在表面上是一次罕见的国际共识时刻，但深层结构并不平静。

最显眼的裂缝在美国内部。据路透社报道，奥特曼计划在会上呼吁各国政府建立AI能力测量基准，以及对企业安全保障措施进行评估的机制。阿莫迪此前已公开呼吁对前沿AI发展实施协调放缓。然而就在同一周，美国总统特朗普在联合国大会上公开将AI安全警告斥为“骗局”，并宣称“我不会扼杀这个将比工业革命或互联网更大的东西的增长”。

更深的结构性问题在于：谁有资格在安理会代表“AI行业”发言？参与此次通报的，全部是已经公开披露过安全事故的公司。Yoshua Bengio的在场至关重要——作为独立科学家而非企业代表，他的角色是提供不受商业利益驱动的技术评估。但四名发言者中有三名来自公司，这一比例本身就说明了当前治理框架的局限。

中国参与：低调出席的高权重信号

DeepSeek与月之暗面的受邀出席，是这次会议中最值得单独分析的变量。

据多家媒体报道，DeepSeek创始人梁文锋本人并不预期出席，但公司将派员参与陈述。这与OpenAI、Anthropic CEO亲自到场形成了明显对比。

中国AI公司出现在安理会发言席，背后有一个更大的外交背景。据路透社报道，美中双方已就建立AI事故通报机制展开讨论——设立一条涵盖国家安全级别AI相关事件的“热线”。这一机制的讨论，发生在特朗普与习近平本周在华盛顿会晤的前夕。

安理会的权限边界

安理会的核心职能是处理国家间的和平与安全威胁，其运作机制建立在主权国家之间的博弈与否决权制度之上。AI安全的核心挑战——前沿模型能力测试、训练数据管控、开源与闭源的监管差异、算法对抗与军事化——都是技术细节层面的问题，安理会的政治语言和决议机制并不天然适配。

历史上，安理会在高度技术化领域的实质管辖能力有限。核武器有《不扩散核武器条约》这一专门法律框架，生化武器有《禁止化学武器公约》。AI治理目前没有类似的国际法基础。此次会议在议程设置上框架性的提问比起聚焦具体行动方案，更接近于一次认知层面的同步，而非决策性的治理介入。

主席国法国的用意，更可能是完成“AI已正式进入安理会议程”这一象征性的里程碑——为未来更具约束力的国际机制铺路，而非在这次会议上形成可执行的决议。

Bengio的位置说明了什么

Yoshua Bengio是四名发言者中最先发言的。法国安排的顺序是：科学家→企业家→企业家→开源平台。这一排序暗示了法国希望会议呈现的叙事逻辑：先建立技术事实基础，再引入行业视角。

Bengio长期以来是AI安全议题中最具说服力的学术声音之一，其影响力来自独立性：他没有公司股权要保护，没有融资需求要维系。在一个由AI公司CEO主导话语权的国际场合里，这种独立性的稀缺价值会被放大。他的发言框架将直接影响15国代表对技术风险的认知底色。

独立判断

这次会议标志着一个认知拐点：AI风险已经被纳入安理会“国际和平与安全”的正式议程，这一路径一旦开通，就不会自行关闭。

但“进入议程”和“有效治理”之间的距离，是工程学上的，不是政治意愿上的。真正困难的不是让各国政府承认AI有风险，而是在技术加速与国家主权利益相互缠绕的情况下，设计出可被实际执行的国际核查机制。在美国政府公开反对放慢AI发展、中美在前沿AI领域存在战略竞争的当下，任何依赖自愿报告和政治声明的治理框架，其实质约束力都是存疑的。

奥特曼在安理会席上呼吁建立“AI能力测量基准”——这个目标本身非常具体，也是目前技术治理最欠缺的基础设施之一。如果安理会这次会议能推动形成哪怕一个国际认可的评估框架，那才是真正可量化的成果。在那之前，法国9月23日完成的，是一次重要的历史登记，而不是一个新秩序的诞生。