嘉信摩根大通封锁AI代理转账 金融业首次用运营制度划边界

10月16日,嘉信理财CEO确认该公司每周拦截AI代理越权操作数十次,摩根大通CEO同日证实阻断外部代理访问客户账户信息,两家机构联合限制第三方AI代理仅可读取账务、不得执行转账。

事实还原

嘉信理财通过区分信息访问与交易授权来应对风险,引导客户使用自家AI助手Charley,该助手仅限行政和信息任务,无法执行交易。对于外部大型语言模型,嘉信实施Model Context Protocol服务器,提供只读访问权限,允许代理查看余额和开展研究,但明确禁止资金转移。摩根大通则直接阻止外部代理获取客户账户信息。

这些行动发生在立法真空期,目前尚无联邦法规规范金融服务中的代理责任,相关法案均停留在委员会阶段。两家机构因此通过自身排除机制建立责任框架。

机制拆解

嘉信的MCP服务器设计直接针对“流氓代理”风险,将第三方AI的权限限制在观察层面,防止密码共享后代理自主行动导致失控。摩根大通的阻断措施则进一步切断信息访问通道,减少代理接触敏感数据的可能性。

这种技术限制源于对责任归属的担忧:一旦代理执行交易出错,机构与客户均难以控制后续责任划分。

产业影响

头部金融机构以运营制度形式公开划定AI代理边界,对代理守约合规讨论形成里程碑效应。其他零售金融机构可能参考类似只读标准,延缓第三方AI代理在金融交易中的深度整合。

此举将风险管理负担从代理开发者转移回机构自身,短期内可能降低AI代理在支付和交易场景的采用速度。

战略判断(分析而非事实)

从WDCD守约评测视角看,金融机构被迫采用技术手段限制AI代理越权,反映当前AI守约能力不足的现实。未来评测指标设计可重点纳入“越权操作拦截率”和“只读权限合规度”,以量化代理在金融环境中的行为边界控制能力。

这一私序模式若在金融核心领域固化,可能推动行业形成事实上的AI代理准入标准,影响后续监管框架的制定方向。