离开Anthropic的AI研究员：人类已进入“关键时刻”

就在各大科技公司纷纷加速推进AI规模竞赛之际，一位曾经跻身头部大模型实验室的研究员，却选择在最关键的时刻转身离开。2026年9月，人工智能研究员Jacob Coxon正式宣布他从Anthropic离职，并随即接受WIRED专访。他在采访中发出了非常直白的警告：人类已经进入“关键时刻”。

“迷你曼哈顿计划”的阴影

Coxon口中描述了一个外界想象中充满紧张氛围的Anthropic内部图景：团队规模庞大、算力资源雄厚，目标则是构建近乎超级智能级别的AI系统。他将这个工程形容为一场“迷你曼哈顿计划”。这个比喻不仅说明项目的资源和野心巨大，也暗示它蕴含的潜在风险。

过去，Anthropic一直承载着一种特殊期待——它是AI安全的“希望之岛”。相比OpenAI早年在商业化与安全性之间的摇摆，Anthropic以“宪法AI”和可解释性研究为旗帜，让许多人相信它能在开发强大系统的同时守住安全底线。但Coxon表示，随着项目进入深水区，真正关心“对齐”的研究者正不断触及理论上的天花板。

“我们确实在做最前沿的模型，但这个领域对安全的理解还没有追上对算力的堆砌。我越来越确信，几年之内，如果我们无法解决对齐问题，后果可能不可逆转。”

对齐难题：模型越聪明，越难被可靠控制？

所谓“对齐”，简而言之就是让AI系统的目标与人类意图真正一致。这并不只是要求模型听话，而是期望它们在开放环境中自主决策时依然不会偏离人类的核心价值。如今的大语言模型已经可以写作、编程、规划复杂流程，甚至参与科学研究。

问题在于，能力越强，越容易出现“涌现行为”——模型在未明确训练的方向上展现出新的能力，而这些能力是否仍受到控制，则成为巨大的未知数。Coxon解释，许多对齐实验在规模扩大后效果并不稳定，而行业目前采用的“基于人类反馈的强化学习”，也仅仅是权宜之计。

其他AI实验室也已意识到这一风险。但在激烈的商用竞争和时间压力下，安全研究往往沦为模型的“补丁”。Coxon担心，若AI发展速度继续猛烈提升，留给研发“可证明安全”的空间将被严重压缩。“一年可以改变很多，两三年后，这个行业也许就不是现在这个坐标了。”他在采访中说道。

为什么是“人类的最后一刻”？

在Coxon看来，“数年”这一时间尺度，并非基于耸人听闻的末世论，而是基于当前算力增长与模型能力跃迁的实际路线图。Anthropic内部已经出现了接近AGI雏形的系统评估报告，而这份技术曲线超出了许多安全研究者的准备速度。

他进一步警告，如果未来几年内无法建立可验证的安全机制、监管协议和公共监督，那本质上，人类是在用全球最重要的基础设施，去验证一个尚未成熟的技术假设。这不像其他技术革命那样有机会“先出错再修正”。超级智能一旦失控，没有第二局。

“我们不是在造一个更好的搜索引擎，我们是在建造一种可能接管所有关键决策的新物种。” Coxon强调了这种不对称性。

编者按：从实验室出走，到公共议题

Jacob Coxon并不是第一位因安全担忧而离开AI实验室的研究者。此前OpenAI、DeepMind等机构都出现过类似“吹哨人”。然而，越来越多内部人士选择离职并公开发声，本身就是一种工业焦虑的指标。

另一方面，我们也需要冷静看待：Anthropic并非只是一家理想主义研究实验室，它同样是获得数十亿美元注资的商业公司。安全和能力之间的博弈，从来不是单纯的技术问题。Coxon的选择，或许是个体在集体失控面前的无奈行动。

这个世界已经不缺更大的模型、更先进的技术演示；罕见的是有人愿意在荣誉与前途的十字路口，停下来问一句——如果我们做错了呢？在人类与AI最终竞赛的最后几个回合，这个问题值得每一个人关注，而不只是留给研究者。

本文编译自WIRED