“我们一直看错了方向”：26,000字长文引爆AI圈

2026年10月，AI初创公司Goodfire的研究员尼克·卡马拉塔（Nick Cammarata）在自己的博客上发布了一篇长达26,000字的文章。文章开篇，他用一种近乎轻描淡写的乐观口吻写道：“关于神经网络的本质，我想我有个好消息。”谁也没料到，这句看似平常的话，在短短几天内就把整个AI圈搅得天翻地覆。

一篇博客，两种反应

卡马拉塔的核心主张是：我们对神经网络内部运作的理解方式，从一开始就“看错了方向”。据他所说，那些被视为难以捉摸、不可解释的“黑箱”行为，其实源于研究者长期采用的观察框架本身存在偏差。一旦换一个角度，许多此前看似混乱的现象就会呈现出意想不到的秩序。这一说法之所以引发轰动，是因为它直指当代AI最根本的焦虑——我们造出了强大的模型，却说不清它们究竟如何思考。

“关于神经网络的本质，我想我有个好消息。”——尼克·卡马拉塔

文章发布后，AI研究社区迅速分裂成几派。有人在社交媒体上称之为“范式转移”，认为它可能重塑可解释性研究；也有人保持谨慎，强调需要复现和同行评议；更有不少研究者直言，这类“颠覆性宣言”在AI领域并不罕见，真正稀缺的是经得起检验的证据。

黑箱之困：可解释性为何如此重要

要理解这场争论的分量，需要回到AI研究的一条主线。过去十年，深度学习模型规模呈指数级增长，从图像识别到语言生成，能力不断突破，但其内部决策过程却像一个巨大的黑箱。研究者不知道某个神经元为何被激活，也无法完整解释模型为何给出某个答案。这种不透明性在医疗、金融、自动驾驶等高风险场景中构成了切实隐患，也催生了“机制可解释性”（mechanistic interpretability）这一研究分支。

近年来，Anthropic、OpenAI等机构都在尝试“解剖”神经网络，寻找其中的“电路”和特征。例如通过稀疏自编码器提取可解释特征，或绘制特定行为对应的内部路径。但这些工作大多停留在局部和片段层面，距离完整理解仍有很长的路。卡马拉塔的宣称之所以刺耳，是因为它暗示：也许问题不在于我们解剖得不够深，而在于解剖的方法本身就有问题。

“好消息”背后的主张与争议

据原文报道，卡马拉塔的论证建立在一系列实验观察之上，他认为神经网络的行为比人们想象的更有规律，现有研究之所以感到困惑，是因为把注意力放错了地方。这一思路与Goodfire公司长期关注的“特征层面”研究一脉相承。不过，26,000字的篇幅本身就是一把双刃剑：它足够详尽，让支持者看到了诚意和深度；也足够庞杂，让批评者质疑核心论点是否被大量叙述稀释。

值得注意的是，AI社区对“颠覆性主张”的态度正在变得成熟。经历过多次“重大突破”的喧嚣后，许多研究者学会了区分“有趣的假设”和“已被验证的结论”。一位不愿具名的可解释性研究者对媒体表示，卡马拉塔的想法“值得认真对待，但现在庆祝为时过早”。

编者按：一场关于“理解”的竞赛

这场风波的意义，或许不在于卡马拉塔的主张最终被证实还是被推翻，而在于它再次把一个问题推到台前：当AI系统越来越深地嵌入社会运转，我们是否有能力理解它们？可解释性研究长期处于“重要但不紧迫”的尴尬位置，商业公司更愿意把资源投向能力提升。然而，监管压力、安全担忧和公众信任正在改变这一格局。

从这个角度看，无论“好消息”最终成色如何，它至少完成了一件事：让更多人意识到，理解神经网络本身，可能和训练更强的模型同样重要。AI领域的下一次突破，或许不会来自更大的参数量，而来自一次视角的转换。

本文编译自MIT Technology Review。