Pramaana Labs获2700万美元种子轮，用形式化验证护航AI可靠性

在AI系统越来越多地承担关键决策任务的今天，如何确保其输出不仅“看起来不错”而且绝对可靠，正成为行业亟需破解的难题。2026年6月17日，初创公司Pramaana Labs宣布获得来自知名风投Khosla Ventures的2700万美元种子轮融资，将正式把形式化验证（Formal Verification）这一源自硬件和关键软件领域的严谨技术，引入到AI系统的开发与部署流程中。

形式化验证：让AI像数学定理一样可证明

形式化验证本质上是一种使用数学逻辑来证明系统行为符合预定规范的方法。与传统的测试或统计验证不同，它不依赖抽样或概率，而是通过严格的数学推理确保系统在所有可能情况下都不会出错。在芯片设计和航空航天软件中，形式化验证已是确保安全的标准做法。然而，将其应用于深度学习模型等AI系统却极具挑战：神经网络的非线性、高维度和海量参数使得传统的形式化工具难以直接适配。

Pramaana Labs的创始人兼CEO在声明中表示：“我们的核心目标是填补AI可靠性的空白——不是用更多的数据或更大的模型，而是用数学保证。当AI决定法律合同条款、推荐候选药物或计算税务方案时，任何一个微小错误都可能带来数十亿美元的损失或法律灾难。形式化验证能让这些系统获得类似‘数学证明’的保障。”该公司目前尚未公开其具体技术架构，但据悉其开发了一套基于符号抽象和约束求解的新引擎，可对特定类型的神经网络（如使用ReLU激活函数的前馈网络）进行形式化分析和验证，并已在小规模原型中展示了有效性。

聚焦高敏感垂直领域：法律、药物发现与税务

与其他AI初创公司追求通用性不同，Pramaana选择了一条更精准的道路——只服务于那些“错误成本极高、可靠性溢价极大”的垂直行业。首期应用领域包括：

• 法律服务：AI辅助合同审查、法律文书起草，一个条款遗漏就可能引发诉讼；
• 药物发现：AI预测分子相互作用，错误推荐可能导致临床失败或患者风险；
• 税务准备：AI自动计算税表，合规错误会触发罚款或法律追责。

Pramaana团队由来自卡内基梅隆大学和斯坦福大学的形式化验证与AI交叉学科研究者组成，他们发现这些领域具有共同特征：数据分布相对稳定、任务边界清晰、且领域知识可被编码为形式化规范。这使得形式化验证不再需要覆盖整个“世界知识”，而是可以围绕有限但关键的规则集展开，从而大幅降低计算复杂度。

“在AI安全领域，我们一直面临一个尴尬的事实：无论我们训练多少数据，都无法保证AI在未见情况下的行为。形式化验证提供了走出这个循环的另一种可能。”—— 行业分析师在评论此次融资时指出。

编者按：从“黑箱”到“透明”的必经之路

当前主流AI系统依赖深度学习，其内部决策过程对用户乃至开发者来说往往都是“黑箱”。尽管可解释AI（XAI）尝试提供事后解释，但本质上仍是基于近似和归因，而非保证。形式化验证有望从根本上改变这一局面：一旦规范被正确定义，AI的输出可以被严格证明符合该规范，从而在合规、审计和责任认定中提供无可辩驳的证据。

当然，挑战同样巨大。首先，完全的形式化验证计算开销极高，目前仅适用于中小规模的模型或特定子任务；其次，规范本身可能无法完全捕获现实世界的复杂性（例如法律中的“合理注意”义务如何形式化？）。Pramaana Labs选择从狭窄但高价值的场景切入，是一种务实策略。如果能在税务或合同领域证明其价值，未来向金融审核、医疗诊断等领域扩展将更具说服力。

Khosla Ventures的合伙人补充道：“我们投资Pramaana是因为他们解决了AI行业最被低估的问题——防止灾难性失败。当AI从‘有趣’变为‘不可或缺’时，可靠性就是黄金。”

本文编译自TechCrunch