AI安全创企HiddenLayer获1亿美元B轮融资

在AI应用加速落地的今天，如何让模型变得“靠谱”，正成为企业数字化过程中绕不开的新命题。9月2日，专注于人工智能模型安全的初创公司HiddenLayer宣布完成1亿美元B轮融资。资方阵容包括Delta-v Capital、Ten Eleven Ventures、Morgan Stanley，微软旗下风投M12和Booz Allen Hamilton也参与其中。“HiddenLayer”这个略显低调的名字，恰好映射了它的使命——防守潜藏于大模型内部、不易被传统工具察觉的安全盲区。

HiddenLayer是一家面向AI安全赛道的新锐公司，其核心逻辑并不复杂：既然企业已把模型视为核心资产，那么模型本身理应拥有专属安全防护。传统网络安全产品关注网络流量、端点进程，而HiddenLayer瞄准的是机器学习模型在训练、部署和调用过程中遭遇的各类攻击。本轮融资将用于产品研发、团队扩张以及开拓更多企业级客户。

大模型带来了新的“脆弱面”

在ChatGPT等生成式AI快速普及的背景下，企业一边享受效率红利，一边把越来越多核心数据交给模型处理。然而，不少安全团队对AI模型仍处于“不设防”状态。传统安全设施既无法理解提示词中的恶意意图，也难以识别模型输出的异常偏离。攻击者可以通过精心构造的提示词让模型泄露训练数据、生成违规内容，或使用对抗样本使图像识别与风控系统在特定条件下失灵。

这类攻击并非传统意义上的漏洞利用，而是基于语义和统计层面的“欺骗”。恶意行为者甚至可以在开源模型供应链中植入后门，令模型在特定输入下产生错误结果。对金融、医疗、国防等领域而言，这种攻击可能造成灾难性后果。由此可见，建立一套覆盖AI生命周期本身的安全监控体系，已成为企业从“试探AI”走向“信任AI”的必经之路。

为AI模型打造“免疫系统”

HiddenLayer的做法是在模型外围增加一层实时检测机制。它采用非侵入式设计，无需读取模型权重，也不会干扰正常推理结果。平台通过记录与分析所有API请求，识别可能包含攻击意图的行为模式，例如请求中暗含特定口令、访问频率突然异常，或输入内容与已知攻击指纹高度相似。一旦判定为恶意行为，系统可实时阻断并告警，尽量将威胁挡在模型大门之外。

有安全行业分析人士评价：“AI安全不是传统安全的简单延伸，而是一场全新的攻防博弈。模型既是防守对象，也可能成为攻击者的跳板。HiddenLayer抓住的正是这种场景下的结构性空白。”

这种思路正在获得市场认可。过去一年，AI安全领域的投融资热度明显升温。相比单纯追逐“大模型能力”，投资机构更加青睐那些能解决“模型可信与可用”问题的创业公司。HiddenLayer拿下如此大额的融资，也让外界看到，AI安全正从网络安全的一个子集，演变为独立的战略性赛道。

资本何以集体下注？

梳理HiddenLayer本轮投资名单会发现，Tene Eleven Ventures长期聚焦网络安全投资，具有明确的产业协同诉求；Morgan Stanley以传统金融机构身份入场，侧面说明AI风险正被纳入主流投融资评估框架；微软M12的加入，暗示云巨头希望将AI安全能力整合进自身生态；Booz Allen Hamilton则服务政府和国防客户，其参与反映出公共部门已经开始为AI系统建立安全采购标准。四类背景迥异的机构同时看好一个项目，意味着AI安全已不再是科技圈的小众议题，而成为跨行业的普遍刚需。

随着欧盟《人工智能法案》等监管框架陆续落地，企业对AI模型的可解释性、抗攻击能力和数据隐私的要求不断提高。合规压力叠加层出不穷的攻击案例，促使决策者不再将AI安全视为“可选成本”，而是部署AI的前提条件。HiddenLayer此轮融资的成功，既是其自身产品价值的体现，也是整个行业风向转变的注脚。

编者按：安全必须跟上AI的速度

AI的发展速度，远超现有安全基础设施的完善程度。这既是风险，也是机遇。HiddenLayer让“安全人员理解AI模型”的难度降低，但它仍面临诸多挑战：如何覆盖多模态模型和AI智能体等新形态，如何将检测能力前置到模型训练阶段，以及如何避免给业务带来明显延迟。这些问题目前没有标准答案，却决定了AI安全市场能走多远。对于所有重仓AI的企业来说，与HiddenLayer这样的公司共同成长，或许正是应对未知风险的最优解。

本文编译自TechCrunch。