Google开源Harness²:代理自动改写脚手架,不动模型权重基准最高提升11.8分

2026年10月9日,Google Cloud AI Research在arXiv发布技术论文并同步开源代码库,推出名为Harness²的代理优化框架(Apache 2.0协议)。框架核心主张为:不动模型权重,仅改模型外层的“脚手架”,即可大幅提升AI代理表现。在法律代理基准LAB上,单步优化带来11.8个百分点提升;在企业工作流基准WorkBuddy-Bench上提升11.5分;在职业知识工作基准JobBench上提升4.5分。测试覆盖GLM-5和Gemini 3.5 Flash两套模型配置。论文作者包括Ruiyao Xu、Yanfei Chen、Rujun Han、Tomas Pfister等人。

什么是“脚手架”,为什么它能影响性能

在大多数代理系统中,模型权重是能力的底层来源,真正决定具体任务表现的是包裹在模型外的那层“脚手架”:系统提示写法、工具调用规则、记忆内容、子代理协调方式、技能和脚本组织。这八类组件——系统提示、护栏、记忆、工具指南、子代理、技能、脚本和插件——共同构成Harness²所称的“执行脚手架”。

过去,这些组件的调优依赖人工。Harness²将该过程转为可自动执行的搜索程序。代理每完成一项任务,框架即启动自优化,生成候选修改、测试效果差异、保留有据可查的改进——全部自动进行,无需人工标注、无需奖励信号、无需预设标准答案。

提议—探测—合成:无监督自改的运作逻辑

框架核心步骤命名为“提议—探测—合成”(Propose–Probe–Compose)。每处理一项任务,系统先提出两组脚手架修改候选:一组针对代理普遍性弱点,一组针对当前任务场景。两组候选方案在相同任务条件下实际运行,系统记录与参考执行之间的行为差异。只有通过行为对比证明有效的修改,才会被合并进新脚手架。

该设计绕开传统强化学习需要“正确答案”才能反向传播信号的约束。在架构上,Harness²分两层递归。任务级递归处理当前任务的即时优化,支持并行模式或序列模式。在WorkBuddy-Bench上,五个并行分支的递归在11.5分基础上再叠加3.9分;JobBench递归追加4.2分;LAB在11.8个百分点之后再追加6.7个百分点。脚手架级递归将每次任务的采纳配置和有佐证的经验教训写入持久化改进文件,成为后续任务的更强起点。

模型选择细节

技术报告披露:实验中担任执行代理的是Gemini 3.5 Flash和GLM-5,但负责提议和合成脚手架修改的“编辑器模型”选用Anthropic的Claude Opus 4.8。该选择显示,在当前时间点,不同模型在特定能力上的差距显著,研究团队在最关键的“元推理”环节选择了表现最好的工具。

弱模型超越强模型

测试结果显示:GLM-5在Harness²优化后,WorkBuddy-Bench得分达到75.7,超过未经优化的Gemini 3.5 Flash基线72.4。较弱模型配以优化脚手架,可超越更强模型在原始配置下的表现。

对企业用户而言,API调用成本较低的模型若脚手架工程扎实,可能比更昂贵的旗舰模型在实际任务上更划算。这将“哪个模型最强”的问题部分转化为“哪套模型加框架的组合性价比最高”。

脚手架优化成为独立研究赛道

从arXiv同期论文来看,Harness²并非孤立事件。同期出现RegenHarness、RRSI、ModularRSI等多篇研究,方向高度接近,表明“代理脚手架的自动优化”正成为多个团队竞争的独立方向。Harness²是其中首个支持并行与序列两种递归模式、可直接对接三项专业基准的可运行框架。

Apache 2.0授权允许直接用于商业产品,支持Python 3.12,集成OpenCode和Codex执行器。LAB基准需要Pandoc和Poppler,WorkBuddy-Bench需要Docker。代码库标注为“非Google官方支持产品”,长期维护节奏和版本兼容性无明确承诺。

对AI评测生态的系统性冲击

Harness²带来的最大结构性问题在于对基准评测可比性的冲击。同一模型在默认脚手架和优化脚手架下的分数差距可超过11分,现有排行榜上的分数对比面临根本问题:这些分数代表“模型能力”,还是“模型+特定框架配置的组合能力”?

Harness²将这种差异放大到10分以上量级,并提供可大规模自动化的机制。若各家厂商开始用类似框架优化自家模型基准,而评测社区仍用“裸模型”分数横向比较,基准参考价值将进一步稀释。

战略判断

第一,脚手架优化可能从研究工具走向产品基础设施。Google选择开源而非闭源,可能通过开放标准吸引开发者生态,同时将这类能力固化为Vertex AI平台底层服务。

第二,评测标准化的压力会加剧。若Hugging Face Open LLM Leaderboard等主流排行榜开始要求提交方注明“使用的框架版本和脚手架配置”,说明社区已意识到问题并开始修正。

第三,Claude Opus 4.8被选为编辑器模型,需持续跟踪。若后续独立复现中换用其他模型做编辑器后性能明显下降,说明Harness²目前结果与Anthropic模型特定能力存在较强耦合。

三项测试基准(法律代理、企业工作流、职业知识工作)是脚手架优化最易产生效益的场景——任务结构清晰、行为可对比、领域知识可精确写入脚手架。对于低延迟对话、实时流处理或纯数学推理等场景,现有数据不能直接外推。