企业AI最大风险：智能体之间的复杂性

企业的IT主管们正在为智能体（Agent）带来的生产力跃迁而兴奋，但真正值得他们彻夜难眠的，或许并不是某个被赋予自主决策能力的AI，而是那些在大规模部署后自然浮现的、盘根错节的复杂性。

近期VentureBeat的一篇评论文章提出了一个犀利的观点：企业AI的现实风险不在于自主智能体本身，而在于它们之间的复杂性。文章指出，企业不会只部署一个智能体，然后袖手旁观地看它运行。恰恰相反，企业部署的是“智能体舰队”——它们相互调用API，彼此协作，同时深入那些当初从未考虑过机器决策者的应用程序内部。

这种复杂交织的架构，才是真正潜藏于企业内部的阴影。正如文章中警告的那样：一个曲折而复杂的系统，往往没有人能看清全貌，更谈不上有效治理。

为什么智能体必然以“舰队”形式出现

现代企业的业务流程几乎不可能由单一大模型独立完成。一个典型的客服智能体可能需要调用CRM系统查询客户资料、调用订单API获取物流状态、再与另一个负责库存管理的智能体交互，以决定是否补货。换句话说，智能体的价值在于连接，而连接必然产生依赖。

当这种连接从少量示例变成规模化的生产系统时，企业面临的不再是单个智能体的“能力问题”，而是整个系统的“结构问题”。谁调用了谁？数据流向哪里？如果上游API响应延迟，下游智能体会做出什么决策？这些问题在部署之前往往难以预知。

复杂性是治理的头号敌人

传统IT治理基于明确的边界：系统之间通过合同、接口和访问控制进行管理。然而，智能体时代引入了高度的动态行为——智能体能够根据上下文自主选择调用路径，这打破了静态依赖关系。

更为棘手的是，许多被智能体调用的应用系统，始建于几十年前，其设计前提是“由人来操作”，根本没有为机器决策者准备接口或服务协议。当智能体深入到这些系统时，既有的可观测性工具会失灵，团队无法回答最基本的审计问题。

“企业真正需要防范的失败模式是：一个无人能够清晰看见、因而无法治理的复杂系统。”——VentureBeat原文观点

风险隐藏在API与边界的缝隙里

API是智能体之间的连接点，也是风险聚集地。每次调用都是一次信任委托。智能体A需要向智能体B提供数据，但B是否被过度授权？A的请求是否会被恶意利用？如果一条API路径被未知地修改，引发级联故障，企业可能直到损失出现后才意识到。

安全风险也由此放大。在传统架构中，攻击面通常分布在明确的网络边界内；而在智能体网络中，攻击面遍布每个智能体的每一次API调用。更糟糕的是，由于某些调用是动态的，攻击者甚至可以在不触发固定规则的情况下实现横向移动。

行业调查显示，很多企业已经将AI治理列为最高风险之一，但真正的障碍在于工具和流程还没有跟上。监控一个模型的行为容易，监控成千上万个模型与数万个API端点之间的交互却几乎是不可能完成的任务。这正是API管理平台和可观测性技术所面临的新机遇。

企业需要“复杂度可观测”的治理新范式

应对这种复杂性，显然不能靠增加人工审查——那会扼杀智能体的效率。业界正在探索的方向包括：为智能体建立声明的依赖图谱，记录每一次调用的上下文；在运行时引入策略即代码，自动验证智能体是否符合权限边界；以及采用分布式追踪技术，观察跨智能体调用的完整链路。

更重要的是，企业应转变思维方式，从“关注单个模型是否聪明”转向“关注系统整体是否可控”。这意味着在设计阶段就要考虑可治理性——明确哪些环节允许动态决策，哪些环节必须保留人工审批。

作为API管理领域的厂商，Gravitee在赞助这篇评论时显然有自己的立场：API治理是智能体复杂性的关键防线。这提醒我们，无论智能体如何进化，连接它们的那层“管道”仍将是决定成败的基础设施。

编者按：本文并非否定智能体的价值，而是希望企业在全面拥抱AI时，提前看到“复杂性的暗影”。技术本身可能不是瓶颈，瓶颈往往出在人类理解复杂系统的能力上。只有在架构、工具与流程上都建立新的治理范式，企业AI才能真正从实验室走向生产，并成为可信赖的决策伙伴。

本文编译自VentureBeat