Box 联手英伟达：智能体内容检索提速4倍

在企业 AI 的竞赛中，最容易被低估的环节往往是“找到正确的那一页”。11 月 5 日，企业内容管理平台 Box 宣布推出一套全新的内容检索系统，其设计思路从传统的“检索—生成”流水线，转向“智能体优先”（agent-first）的架构。这套系统的底层模型，来自英伟达今年力推的 Nemotron 系列。

根据 Box 公布的数据，新系统在内部评测中可以把查询响应速度提升到原来的四倍，错误率下降约 20%，同时 token 消耗量减少 90%。对于动辄要为全公司数万名员工承担推理成本的企业客户来说，最后一个数字可能比前两个更具吸引力。

为什么传统 RAG 开始“不够用”

过去两年，企业接入大模型的标配方案是 RAG（检索增强生成）：先把用户问题向量化，从文档库中召回若干片段，再把这些片段塞进提示词交给模型作答。这套流程简单、可解释，也容易上线，但它在真实企业环境里很快暴露出短板。

问题在于，企业问题很少是“单跳”的。员工问的往往是“上个季度欧洲区续约率下滑的原因是什么”，答案可能散落在 CRM 导出表、三份会议纪要、一封法务邮件和两个版本的销售手册里。传统 RAG 只做一次检索，召回质量高度依赖问题的字面表述；一旦第一次没找到正确材料，模型就只能基于残缺上下文给出一个看似合理、实则错误的答案。这正是企业最不能接受的那种错误。

“智能体优先”的思路，是把检索本身变成一个需要规划和迭代的任务：模型先拆解问题，决定要查哪些数据源、用什么关键词、按什么顺序查；拿到中间结果后判断是否足够，不够就换一条路径再查；最后才组织答案。换句话说，模型不再是被动接收上下文的“答题者”，而是一个会自己去找资料的研究助理。

“我们不再问‘哪几段文本最像这个问题’，而是问‘要回答这个问题，需要依次做哪几件事’。”——这正是智能体检索与传统 RAG 的分水岭。

Nemotron 扮演了什么角色

英伟达的 Nemotron 是一组面向开发者开放的模型家族，覆盖语言理解、推理与多模态等方向，强调可定制与推理效率。对 Box 这类平台而言，选择开放权重模型的现实动机很直接：企业内容涉及合同、财报、人事记录，客户普遍不愿把这些数据送进闭源 API 的黑箱，也不愿承担按 token 计价的不可控成本。可私有化部署、可按垂直领域微调的模型，更容易通过合规审查。

而 token 消耗下降 90% 这个指标，恰恰说明智能体架构并不必然意味着“更贵”。直觉上，多步推理意味着更多次模型调用、更多 token；但如果每一步的上下文都更精准、更短，并且避免了传统方案中把大量无关文档片段一股脑塞进提示词的做法，总账反而可能大幅下降。这背后是检索精度与上下文长度之间的一场重新平衡：用更聪明的规划，换更干净的输入。

速度提升四倍同样可以由此解释。传统 RAG 的瓶颈常出现在向量召回和大上下文推理上，而智能体检索通过分层过滤、按需读取，把昂贵的长上下文推理限制在少数真正必要的环节。

企业搜索的战场正在重排

Box 此举并非孤立事件。微软把 Copilot 深度嵌入 Microsoft 365，Glean 以跨应用企业搜索起家，Notion、Atlassian 等协作工具也纷纷内置 AI 问答。对 Box 来说，内容库是它的护城河，但如果检索体验落后，护城河就会变成“只是存放文件的地方”。

值得注意的趋势是，企业 AI 的竞争焦点正从“模型有多强”转向“工程链路有多顺”。同样一个开源模型，配上不同的检索策略、权限体系与评估方法，最终呈现的产品体验可能天差地别。Box 选择公开强调速度、错误率和 token 这三个工程指标，而不是发布跑分榜单，本身就说明了这一点。

当然，厂商公布的内部评测数据需要谨慎看待：测试集如何构造、错误如何定义、四倍加速是在多大规模的内容库上测得，这些细节都会显著影响结论。真正的考验，是当客户把数百万份历史文档、复杂的权限继承和混乱的文件夹结构一起灌进去之后，系统还能否维持同样的表现。

编者按：智能体检索不是万能药。它带来了更强的多步推理能力，也带来了新的可观测性难题：当模型自主决定查什么、查几次，出错时就更难定位是哪一步跑偏。对企业而言，下一阶段的关键能力可能不是“接哪个模型”，而是能否建立一套可审计、可回滚的检索评估体系。谁能把智能体的“黑箱决策”变成可解释的调用链，谁就更有机会赢得那些最谨慎的大客户。

本文编译自 TechCrunch