AI自我改进没那么快：递归进化愿景与现实差距

当前人工智能领域最引人注目的承诺是：AI即将在几乎不需要人类监督的情况下实现自我改进。大型语言模型已经能编写代码、生成用于训练的合成数据，甚至优化自身运行所用的计算机芯片——这些能力初看似乎为“递归自我改进”铺平了道路。所谓递归自我改进，指的是AI系统能够迭代地提升自身能力，每一次改进又为下一轮改进创造更好的条件，最终形成指数级进步。然而，这种美好图景可能不会像许多乐观主义者预期的那样迅速到来。

“AI行业眼下最激进的承诺是，AI很快就能几乎不需要人类监督地改进自己。”——MIT Technology Review

当前的“自我改进”仍然高度依赖人类

尽管LLM在代码生成、数据合成、硬件优化等方面展现了惊人的能力，但它们的每一次“提升”都离不开人类的精心设计。数据要由人类选择和处理，模型架构需要人类调优，训练目标更是由人类设定。合成数据虽然可以减少某些标注成本，却无法摆脱对真实数据的依赖；当AI生成的数据被反复用于训练时，模型可能陷入“模型自噬”的困境，导致多样性丧失和性能退化。

数据、评估与对齐：三重关卡

递归自我改进的前景面临三大技术挑战。首先是数据瓶颈：合成数据的质量需要一个可靠的上游来源，否则错误会通过自我训练不断放大。其次是评估难题：如何判断一个模型在自我改进后真正变好了？在缺乏严格基准和验证工具的情况下，AI的自我评估往往不可靠。最后是目标错位：一个追求特定目标的AI系统，在自我改进过程中可能采取与人类意图不一致的捷径，甚至形成危险的反馈循环。这也是AI对齐研究目前备受关注的原因。

炒作周期与真实进展

回顾AI发展史，类似的“指数级进展”预言并不少见。从早期专家系统到深度学习浪潮，技术突破往往会经历狂热期与幻灭期。如今，关于递归自我改进的讨论也夹杂着商业宣传和技术叙事。一些公司希望通过“自主AI”的故事吸引投资，但现实是，目前任何成熟的AI系统依然依赖严格的人类监管。把“辅助人类开发”吹嘘成“自我进化”，可能是一种危险的简化。

编者按：保持理性乐观

递归自我改进并非完全不值得期待。长远来看，AI如果能在人类审慎监督下逐步提升自身，有可能释放巨大的生产力。但我们必须清醒认识到，通往真正自主进化的路上还有无数工程和科学难题。当前的首要任务不是追求“全自动改进”，而是构建可验证、可解释、可对齐的AI系统。唯有如此，才可能为未来的良性自我改进奠定基础。

总而言之，AI的递归自我改进或许终将到来，但“会很快到来”的断言很可能低估了这一过程中的复杂性与风险。正如MIT Technology Review指出，行业对短期进展的乐观需要与对长期挑战的冷静思考相平衡。

本文编译自MIT Technology Review