7月10日，MIT Technology Review发布深度报道《The Download: Claude’s inner workings and OpenAI’s “super app”》，揭秘两大AI巨头最新动向。Anthropic的研究团队首次在大型语言模型内部找到了一个“隐藏空间”，展示出Claude在生成回复前如何对概念进行抽象与组装；与此同时，OpenAI正积极打造一个“超级应用”，试图将GPT-4o的全部能力打包进单一窗口，重塑人机交互边界。
Claude的“概念密室”：AI如何思考？
Anthropic的可解释性团队通过一项创新实验，在Claude的神经网络中层发现了一个特殊的激活模式——当模型被问到“苹果是水果还是蔬菜？”时，它并非直接调用训练文本中的段落，而是先构建一个关于“苹果”的多维概念向量，再与“水果”“蔬菜”等类别向量进行加权匹配。这一发现被称为“概念密室”（Concept Vault）。
“这就像我们第一次看到AI在‘思考’的证据，”Anthropic首席科学家Jan Leike在采访中表示，“Claude并非像传统程序那样查找表格，而是在一个连续的语义空间中动态组装答案。”
研究团队使用了稀疏自编码器（Sparse Autoencoder）技术，对Claude 3.5 Sonnet模型中间层的10亿个神经元进行降维分析。他们惊讶地发现，大约23%的激活单元可以被精确映射到人类可理解的概念，例如“因果关系”“空间关系”“时间顺序”等。更关键的是，当模型被要求推理时，这些概念单元会形成临时的“思维链”，其顺序与人类逻辑推理的步骤惊人相似。
这一成果被认为是大模型可解释性研究的里程碑。过去，开发者只能通过输入输出行为推测模型内部状态，如今则首次获得了直接观测内在推理过程的窗口。不过，Anthropic也警告说，当前技术仅能解析极少数概念（约3000个），且实时解析需要消耗额外算力，距离实际应用仍有距离。
OpenAI的“超级应用”野心：一个窗口统治一切
几乎在同一时间，OpenAI被曝出正在内部测试一款代号为“Orion”的统一界面。该应用将ChatGPT的对话功能、DALL-E的图像生成、搜索引擎WebGPT、代码解释器以及即将推出的Agent系统全部整合进单一聊天窗口。用户无需在不同工具间切换，只需自然语言指令即可完成数据分析、网页浏览、文档编辑、自动化任务等复杂工作流。
OpenAI CEO Sam Altman在内部邮件中称：“我们不再需要多个App。未来，一个超级智能助手应该是一个‘超级应用’——它既是你对话的伙伴，又是你执行任务的双手。” 消息人士透露，该应用计划在2026年底前以“GPT-4o超级版”名称发布，订阅价格可能较当前Pro版上浮30%。
编者按：透明与黑箱的博弈
Anthropic与OpenAI的这两项进展，恰好代表了AI发展的两个极端：一端是追求可解释性，力求打开黑箱；另一端是追求能力聚合，进一步模糊AI的边界。Claude的“概念密室”让人们看到，即使是当前最先进的大模型，其内在逻辑也并非完全混乱，而是存在某种可被人类理解的秩序。这为AI安全与监管提供了技术基础。
但OpenAI的“超级应用”则可能带来新的风险——将所有能力集中在一个窗口中，意味着如果模型出现偏见、幻觉或被恶意利用，其影响范围将呈指数级扩大。当AI从“工具”变为“全能管家”，如何设计有效的权限管理、隐私保护与错误回滚机制，将是比技术更棘手的命题。
《自然》杂志最新评论指出，Anthropic的研究证明AI内部并非“外星智能”，但OpenAI的实践却可能让AI的决策过程再度隐入幕后。未来，我们或许需要一种“可解释的超级应用”——既能像Claude一样展示推理过程，又能像Orion一样执行广泛任务。这将是整个行业需要共同回答的下一道难题。
本文编译自MIT Technology Review
© 2026 Winzheng.com 赢政天下 | 转载请注明来源并附原文链接