编者按：AI安全讨论近年被“超级智能灭绝论”占据，但真正决定风险高低的，往往是那些已经存在、只是被自动化加速的旧问题。本文基于WIRED的专家访谈整理，试图把注意力从科幻拉回现实。
过去几年，关于人工智能安全的公共讨论几乎被一种叙事垄断：在某个不可预测的时刻，机器会“醒来”，然后人类迎来自己的终结者时刻。这套故事足够戏剧化，适合拍电影，却越来越不适合用来指导政策——因为它把风险想象成一个遥远的、单一的事件，而现实中的风险是一连串正在发生、彼此叠加的故障。
《连线》（WIRED）记者劳伦·古德（Lauren Goode）带着这个问题采访了10位来自安全研究、地缘政治、生物风险与关键基础设施领域的专家。得到的答案有些反直觉：风险清单上排在最前面的不是“天网”，而是核误判、生物安全漏洞、大国竞争中的情报渗透、脆弱的电网与金融系统，以及缓慢发生却难以逆转的认知与权力失衡。
“最危险的场景往往不需要一个超级智能。它只需要一个已经存在的系统，再加上一点自动化。”——这是多位受访专家共同的判断。
一、核风险：AI是加速器，不是起因
核灾难之所以被反复提起，是因为它是典型的“低概率、高后果”风险。专家们担心的并不是AI按下发射按钮，而是决策时间被压缩到人类无法审慎判断的程度：预警系统、卫星情报、指挥链路中一旦嵌入自动化环节，误报与误读的窗口就会缩短到几分钟。历史上，人类的犹豫和怀疑曾多次阻止灾难；而追求效率的系统，恰恰倾向于消除这种“犹豫”。
二、生物安全：门槛正在被拉低
比核更令技术人员不安的是生物领域。模型在蛋白质设计、实验方案生成上的能力提升，正在把过去需要专业训练的门槛变成一段提示词。真正的问题不在模型本身，而在于DNA合成筛查、实验室准入、论文与数据发布等配套治理是否跟得上。技术能力的扩散速度，远快于安全规范的更新速度。
三、中美竞赛：间谍、算力与供应链
摘要里那句“（嗨，间谍们）”并非玩笑。专家把中美主导权竞争视为现实风险源：模型权重与研究成果成为情报目标，芯片与算力供应链被武器化，出口管制推动技术体系分裂。竞争的副作用是安全合作空间的收缩——当各国把最强的模型视为战略资产，共享风险信息、共建评测标准就变得异常困难，而AI风险恰恰是跨国界的。
四、基础设施：攻击面在扩大
电网、水务、医院、金融清算系统，这些系统的共同点是“不能停”。AI让攻击的门槛降低、速度提升，也让防守方不得不依赖同样自动化但未必可靠的工具。专家提醒，真正的危机往往不是一次精妙的黑客行动，而是一连串小故障在高度耦合的系统里连锁放大。
五、认知与权力：最安静的噩梦
如果说上面几项是“爆炸型”风险，那么信息生态的污染与权力的集中则是“慢性病”。合成内容让公共讨论的事实基础变得昂贵，而前沿模型的训练成本又把能力集中在少数公司和国家手中。专家认为，这种不对称本身就是安全风险：它决定了谁能定义什么叫“安全”，谁又能免受审查。
六、为什么“末日叙事”反而有害
把AI安全等同于“阻止天网”，会带来两个后果。其一，它让讨论脱离具体的工程与制度问题，变成关于意识与意图的哲学争论；其二，它给了一种虚假的安慰——仿佛只要盯住那个终极风险，其他问题就会自动解决。受访专家的共识是：真正的安全来自枯燥的工作，包括评测基准、事故上报、责任划分、红队演练和国际对话机制。
这并不意味着超级智能的风险可以忽略，而是说它不该成为唯一的叙事。当公众与政策制定者的注意力被科幻占据，最该被修补的那些接口、协议与制度，就会继续敞开着。
风险不是即将降临的怪物，而是我们已经建好、却还没检查过的房间。
本文编译自WIRED
© 2026 Winzheng.com 赢政天下 | 转载请注明来源并附原文链接