AIR融资5000万美元，为企业AI代理安全护航

随着生成式AI技术的快速普及，越来越多的企业开始部署AI代理（AI Agent）来处理日常任务——从撰写邮件、整理数据到自动回复客户。然而，这些代理并非永远可靠：它们可能使用存在漏洞的第三方技能，或在执行任务时产生偏离企业政策的行为。如何确保这些自主系统的安全性与合规性，正成为企业面临的新难题。

总部位于旧金山的AI治理初创公司AIR（Agent Integrity & Regulation）近日宣布，成功完成5000万美元的A轮融资。本轮融资由Sequoia Capital领投，现有投资者Index Ventures和三六零集团跟投。AIR表示，新资金将用于加速产品研发、扩大客户成功团队，并构建更丰富的技能知识库。

AI代理的“安全检查员”

AI代理在运行过程中，往往会调用各种外部工具——比如访问数据库、调用API、上传文件等，这些在AIR的体系中被统称为“技能”（skills）和“插件”（add-ons）。它们赋予了代理强大的能力，也带来了不可控的风险。一个看似无害的插件，可能默默窃取敏感数据；一个过时的技能，可能产生与公司价值观相悖的输出。

AIR的核心产品是一个持续监控与治理平台。它首先通过无侵入式扫描，自动发现企业内部正在运行的所有AI代理及它们依赖的技能清单，建立一份动态的资产台账。随后，平台会对每个技能、插件进行实时的行为分析，包括其权限请求、数据流走向和历史执行记录，筛选出任何可疑或违规的活动。当检测到风险时，AIR会立即隔离该技能，并阻止代理执行相应操作，同时向安全团队发出告警。

“大多数企业并不清楚他们的AI代理到底在做什么。它们就像黑箱一样运行，而我们的目标就是让这些黑箱变得透明、可控。”AIR联合创始人兼首席执行官Elena Marsh在接受TechCrunch采访时表示。

从“事后追责”到“事前预防”

传统网络安全工具主要针对固定的软件和网络流量，而AI代理的动态性和自主性让传统防护手段捉襟见肘。例如，一个代理可能根据用户输入实时决定调用哪个插件，这种不确定性使预先定义好的安全策略很难覆盖所有场景。

AIR采用的方案是“行为基线+异常检测”。平台会学习每个代理的正常行为模式，当出现偏离基线的调用或异常的数据访问时，系统会判定为风险并自动介入。这种方式不需要企业预先列出所有恶意技能，而是通过持续学习来适应不断变化的威胁环境，体现了从“事后追责”到“事前预防”的治理理念转变。

编者按：AI治理解锁企业信任

据行业报告，到2027年，全球超过60%的企业将至少在生产环境中部署一种AI代理。然而，代理的自主性与安全性之间的紧张关系，正在成为制约企业规模化采用的关键瓶颈。AIR的融资恰恰印证了市场对“代理治理”这一细分赛道的旺盛需求。

但我们也应看到，AI治理不只是技术工具，更是一套组织流程。企业需要建立清晰的代理使用规范，定期审计，并将人类决策嵌入到关键的审批环节中。技术可以阻断风险，但真正的信任来自于长期、透明的治理文化。

本轮融资后，AIR计划将员工人数增加一倍，并推出面向中小企业的轻量版产品。Marsh透露，公司还将与主流AI框架提供商合作，将治理能力直接集成到开发工具链中，让“安全基因”从代理开发之初就嵌入其中。

本文编译自TechCrunch。