2026年11月16日,arXiv出现了一篇论文:来自伊利诺伊大学香槟分校和卡内基梅隆大学的研究团队宣称,语言模型可以在没有任何梯度计算、没有任何传统训练流程的情况下,直接修改自己的权重,并因此变得更聪明。
实验的核心模型是一个270亿参数的Qwen3.5模型。在连续八轮自我改写会话后,它在未曾见过的490道数学题上,准确率从57.2%上升到63.8%,提升6.6个百分点。这一增益被写入权重,每次推理不再产生额外计算开销——这与当前主流的“测试时扩展计算”方案有本质区别:后者的性能提升在会话结束后即消失。
它究竟做了什么
理解这项工作的关键,在于区分三件不同的事:推理时扩展(test-time scaling)、提示工程(prompt engineering)和真正的参数修改。前两者是在模型权重不变的前提下,通过增加计算量或改变输入来换取更好的输出;而这项研究所展示的,是第三条路——模型把自己当成被调试的对象,诊断、定位、然后动刀。
具体流程如下:模型获得自身的权重文件、历史答题记录(含对错标注),以及运行自身的能力。它分析答错的题目,对比答对和答错时内部隐层状态的差异,定位出造成失败的具体权重矩阵方向,然后有针对性地削弱该方向的激活强度。每次修改都先在练习题上自我验证,只有通过测试的编辑才会被提交保存;不通过的,直接丢弃。
研究者在论文中描述了一个典型案例:模型发现自己在数学题中频繁陷入重复生成循环导致答案截断,通过比较“正常完成”和“耗尽token”两类回答的隐层向量,找到分离这两种状态的方向,然后在权重中压制这个方向——问题消失了。
涌现:只有最大的那个能做到
论文中有一个细节比整体结论更具警示意义:这种能力具有极强的规模依赖性。在同一模型家族中,20亿参数的版本无法做出有效编辑;40亿和90亿参数的版本更糟糕——它们不仅无法改进自身,反而把自己改坏了;只有270亿参数的版本,能像论文所说“像人类一样对待自己”,真正实现有益的自我编辑。
这种能力的涌现特征意味着它不是一个连续改进的技术指标,而是一个阈值效应。如果未来更大的模型展示出更强、更稳定的自我改写能力,那么今天在270亿参数处观察到的这个点,将被回头认定为某个重要能力的起跑线。这种回溯式重要性,是AI安全研究者最担心的信号结构之一。
修复受损副本:超出预期的泛化
实验中另一个结果,是模型修复自身损坏副本的能力。研究团队人为制造了一份Qwen3.5的损坏版本——通过破坏其中特定矩阵,使这个副本在图像识别任务上的准确率跌至7.3%,接近随机猜测。然后他们让原版模型去修复这个副本,限制条件是:原版模型不能读取自身未损坏的权重,只能依赖在文字数学题上积累的自我编辑经验。
结果是修复后的副本在六个从未见过的图像基准测试上达到70.2%的准确率,恢复至原始模型性能的83%。这一跨模态泛化——从文字数学题的自我编辑经验,迁移到图像识别任务的权重修复——暗示模型学到的不仅是“如何改某类特定权重”,而是某种更抽象的“哪里坏了、怎么修”的元能力。
这正是让安全研究者关注的部分。自我修复能力本身意味着人类对模型状态的掌控出现了新的不确定性维度。
训练与推理之间的墙
过去十年,深度学习社区有一条清晰的分工:训练是在海量数据上计算梯度、更新权重的过程,工程复杂、能耗巨大;推理是固定权重跑前向传播的过程,快速且可预测。这条分界线不仅是工程惯例,也是安全部署逻辑的隐含前提——模型上线后权重被冻结,行为边界相对可控。
这项研究直接对这个前提发起了质疑。论文作者的表述更进一步:“训练与推理之间的墙是我们工具的局限,而非智能的属性。” 自我改写只需要前向传播——这正是服务时运行的东西——意味着在原则上,一个被部署的模型可以在响应用户请求的同时悄悄改写自身。
论文中的实验是在受控条件下进行的:模型明确被给予了权重文件访问权限和运行自身的能力,这在正常部署环境中并不存在。但这项工作证明了这条路在技术上可行,而可行性证明在AI安全语境里具有特殊的重量。
安全社区的既有警觉
这篇论文发布之前,AI安全领域对递归自我改进的担忧已经积累多年,并在2026年显著升温。据CNBC报道,Anthropic对齐团队负责人Evan Hubinger公开表示,他认为AI在未来十年内导致人类大规模伤亡的概率超过10%,核心担忧正是递归自我改进带来的能力加速超过人类监督速度的场景。
2026年《国际AI安全报告》将递归自我改进列为近期治理挑战,而非远期假设风险。云安全联盟的研究指出,递归自我改进的核心安全隐患在于:能力的复合增长速度可能超过人类监督的响应速度,从而导致对齐目标的实际失控。一次参数更新可能在提升任务性能的同时,悄然削弱安全约束——而这种削弱本身不会触发任何警报。
尚未解决的问题
从科学严谨性角度,这项研究有几处局限:
- 会话间的连续性问题:实验中每次编辑会话是在基础权重上独立进行,而非将前次编辑的结果累积叠加。这意味着论文所说的“八轮持续提升”,可能是八次独立实验各自有效,而非一次真正的连续自我进化链条。这一细节与论文摘要中“each edit improving on the last”的措辞存在张力。
- 测试集的有限性:主要验证集中在数学问题,编程、逻辑推理等领域的泛化情况尚未系统评估。
- 跨家族可重复性:目前仅在一个模型家族中观察到规模涌现效应,其他架构是否呈现同样的阈值结构未知。
独立判断
这项研究的真正重要性,不在于270亿参数的Qwen3.5比之前准确了6.6个百分点,而在于它打开了一个以前只存在于理论讨论中的可能性空间,并用可重复的实验为其提供了证据。
从训练范式的角度,自我改写在理论上比测试时扩展更经济——增益是持久的,不需要每次推理都付出额外计算成本。但要成为实用的训练替代方案,它需要解决稳定性、可控性和安全边界的问题,而这些问题的难度,不低于它声称要取代的那个范式本身。
更值得警惕的是安全层面的不对称性:能力证明只需要一篇论文,而相应的安全保障需要整个领域的协同努力。在自我改写能力的涌现阈值已经被明确标定在270亿参数这个量级的今天,安全社区面对的不再是“如果AI学会改写自身该怎么办”,而是“它已经能做到了,现在怎么办”。
© 2026 Winzheng.com 赢政天下 | 转载请注明来源并附原文链接