AI 会灭绝人类吗？MIT 圆桌激辩生物武器威胁

编者按：当人工智能的能力以月为单位快速迭代，“AI 会不会毁灭人类”已经从一个科幻桥段，变成严肃的公共议题。本周，MIT Technology Review 举办了一场线上圆桌讨论，试图回答这个越来越多人正在追问的问题。本文将讨论的核心观点、行业背景与值得警惕的风险信号梳理成文，供读者参考。

“AI 灭绝人类”是杞人忧天吗？

MIT Technology Review 的线上活动 Roundtables 把问题直接摆上台面：AI 真的可能杀死我们所有人吗？这个提问看似极端，却已成为当前 AI 安全辩论的核心。一方认为，随着模型能力持续跃升，一旦超级智能脱离人类控制，后果可能不可逆；另一方则指出，把注意力过度集中在“灭绝”这种遥远场景，反而会掩盖算法歧视、隐私侵蚀、就业冲击等已经在发生的现实危害。

讨论中一个关键分歧在于时间尺度。主张存在性风险的研究者倾向于用概率和长期推演来论证，批评者则认为这类推演缺乏可验证的证据链，容易滑向炒作。值得注意的是，即便是最谨慎的研究者，也不否认前沿模型在生物、网络攻防等领域展现出的能力跃迁信号值得持续监测。自 2023 年那封呼吁暂停训练大型模型的公开信以来，围绕“AI 生存风险”的争论从未间断，而模型能力每提升一代，争论就会再被点燃一次。

生物武器：更具体、更紧迫的那条线

相比抽象的“灭绝论”，AI 降低生物武器门槛的担忧要具体得多。生成式模型可以辅助文献检索、实验设计甚至蛋白质结构预测，这些能力在正当科研中极具价值，但同样可能被恶意行为者利用。业内较普遍的判断是：真正需要防范的，不是 AI 突然“觉醒”去主动制造病原体，而是它把原本需要高度专业训练才能掌握的知识，压缩成普通人也能获取的信息。

“我们真正担心的不是 AI 产生了恶意，而是能力扩散的速度，超过了社会防护体系升级的速度。”

这也是为什么越来越多的监管框架开始把“生物安全红线”写进 AI 治理：限制模型输出涉及高风险生物实验的操作性细节、建立红队测试机制、要求前沿实验室共享安全评估结果。从布莱切利到首尔，各国 AI 安全峰会反复讨论的，正是如何在不扼杀正当科研的前提下，给最危险的那一小部分能力上锁。

从恐慌到行动：监管如何落地

围绕 AI 风险的争论，最终都会落到同一个问题：接下来该做什么？目前行业大致形成三条路径。第一是技术路径，通过对齐研究、可解释性和安全护栏，让模型“不愿意”执行危险行为。第二是制度路径，包括分级监管、模型能力评估与强制披露义务。第三是国际协作路径——尤其在生物安全和网络攻防这类跨国议题上，单一国家的管制很难奏效。

难点同样清晰：监管太松，风险失控；监管太紧，创新受阻，还可能把领先能力推向监管更弱的地区。更深层的问题在于，AI 安全研究本身仍处于早期阶段，许多风险连“如何测量”都还没有形成共识，更谈不上设定明确的阈值。

结语：保持冷静比陷入恐慌更难

这场圆桌讨论的价值，或许并不在于给出“AI 会不会灭绝人类”的确定答案，而在于把问题拆解成可以被研究、被治理的具体议题。灭绝风险提醒我们保持敬畏，生物武器威胁提醒我们抓紧行动，而现实中已经发生的危害则提醒我们不要只盯着远方。对普通读者而言，最务实的姿态或许是：既不轻易被“末日叙事”裹挟，也不对能力跃迁视而不见。

本文编译自 MIT Technology Review。