英国内政部用ChatGPT审庇护申请，或面临调查

据WIRED报道，英国政府的一个监督机构正在考虑对英国内政部（Home Office）展开正式调查。引发调查考虑的起因是，内政部在庇护申请（asylum claims）处理流程中使用了OpenAI的ChatGPT相关技术。有关这些工具准确性的质疑，以及该部门在技术使用方式上的保密态度，共同成为争议焦点。

事件核心：AI介入庇护审核引发问责

庇护申请审核是国家公共服务中风险最高、对当事人影响最直接的工作之一。审核结论往往关系到申请人是否会被遣返、是否可能面临人身危险，因此对准确性、可解释性和程序公正性的要求极高。正是在这样一个“不允许出错”的领域，内政部被曝出使用了ChatGPT类生成式AI工具，消息一经披露便引发广泛关注。

按照报道的说法，监督机构关注的并非“是否使用了AI”这一点本身，而是两个更具体的问题：其一，这类工具在处理庇护材料时的准确性究竟如何，是否存在误判、遗漏或凭空生成内容的可能；其二，内政部对相关工具的使用范围、部署方式和评估结果讳莫如深，外部难以核实其合规性。当一个直接影响个人命运的决策系统被置于“黑箱”之中，调查的呼声自然会高涨。

“对许多国家的政府而言，问题已经不再是‘要不要用AI’，而是‘如何证明它没有伤害到最脆弱的人’。”

为什么准确性在此类场景中如此关键

生成式AI的核心工作机制是基于概率生成文本，它擅长归纳、改写与总结，但并不天然具备事实核验能力。在庇护审核场景中，这意味着模型可能在整理申请人陈述时“顺滑地”补全并不存在的信息，也可能在语言翻译、国别背景判断等环节产生偏差。对于一份需要被逐字推敲的证词而言，任何细微的失真都可能改变结论走向。

与此同时，这类系统还存在可解释性不足的问题。传统自动化工具通常可以追溯规则与参数，而大模型的输出往往难以给出清晰的推理链条。申请人若想质疑一个由AI辅助得出的判断，几乎无从着手——这直接触及程序正义的底线。也正因如此，围绕“准确性”的担忧，实际上同时是围绕“可申诉性”和“可问责性”的担忧。

保密文化加剧外部不信任

报道特别提到，内政部在使用这些工具时的“保密”状态令监督机构不安。政府部门引入新技术时，通常会经过影响评估、数据保护审查和内部试点，但是否公开这些信息，各地做法差异极大。在缺乏透明度的情况下，外界既无法确认用于训练或调用的数据是否包含申请人敏感个人信息，也无法判断人工复核环节是否真正存在、是否有效。

这一情形并非英国独有。过去两年，多国公共部门都在探索将大语言模型用于文书起草、材料摘要和案件分流。支持者强调效率提升与积压案件纾解，批评者则警告“自动化偏见”与责任稀释。英国此次争议的价值在于，它把一个普遍性问题摆上了台面：当AI进入国家权力行使的核心环节，公开与审查不应是可选项。

编者按：政府用AI，需要先回答三个问题

从更宏观的视角看，这起潜在调查提示各国政府，在部署生成式AI之前至少要能清晰回答三件事。第一，工具在流程中扮演什么角色——是辅助摘要，还是实质性影响结论？第二，准确性如何被独立验证，错误率与失败模式是否被公开？第三，当决策受到质疑时，当事人能否获得有效的解释与救济渠道。这三问没有令人信服的答案，任何“效率红利”都将建立在脆弱的社会信任之上。

目前，监督机构尚处于“考虑是否调查”的阶段，内政部是否会全面披露技术细节也未有定论。但可以预见，随着生成式AI在移民、福利、警务等高风险政务场景加速落地，类似的审视只会越来越多。对政府部门而言，与其在曝光后被动应对，不如主动建立透明的评估与披露机制——这既是合规要求，也是维系公共信任的前提。

本文编译自WIRED