教皇的AI顾问：警惕大实验室的“卡特尔”化

在梵蒂冈，保罗·贝南蒂（Paolo Benanti）是一个不太寻常的存在：他既是方济各会修士、神学家，也是罗马宗座额我略大学的教授，研究领域横跨技术伦理、神经科学与人工智能。过去几年，他成了教皇方济各在AI议题上最常被引用的声音，也因此被媒体戏称为“教皇的AI男”。但他本人更愿意把自己看作一个提醒者——提醒人类：技术从来不是中性的，它承载着谁被服务、谁被排除的价值选择。

从“罗马呼吁”到联合国咨询席

贝南蒂的分量并非来自教廷的职位，而是来自他长期在“技术—伦理—政策”三角地带的穿行。2020年，宗座生命科学院推出《罗马人工智能伦理呼吁》（Rome Call for AI Ethics），提出透明、包容、责任、公正、可靠、隐私与安全等原则，IBM、微软等科技巨头以及多国政府先后签署。贝南蒂是这一进程的重要推手。2023年，他被任命为联合国秘书长人工智能高级别咨询机构成员；同一时期，他还主持了意大利政府的人工智能委员会，为这个欧盟成员国起草AI产业与监管建议。2025年1月，教廷发布关于人工智能与人类智力的文件《Antiqua et Nova》，他同样参与其中。

换句话说，他不是在讲台上谈论AI风险，而是真正坐在规则起草桌旁的人。这也让他在接受《连线》采访时给出的判断格外值得重视。

“神级AI”的恐慌，正在挤占真正的公共讨论

贝南蒂对《连线》说，围绕“会不会出现神一般的人工智能、它会不会毁灭人类”的歇斯底里，正在分散人们的注意力，而真正需要的，是关于“如何治理这项技术”的公共辩论。在他看来，这场讨论被一种科幻式的叙事绑架了：一边是末日预言，一边是救世承诺，两端都在回避最朴素的问题——这项技术为谁而建、由谁决定、如何问责。

“关于是否会出现‘神级AI’并毁灭人类的恐慌，正在挤占真正重要的公共讨论空间：这项技术究竟该由谁治理、为谁服务、由谁来承担后果。”

这一立场在AI伦理圈并非孤例，却常被噪音淹没。过去几年，最吸引眼球的辩论几乎都围绕“对齐”“超级智能”“存在性风险”展开，投入其中的是顶级实验室的研究者与硅谷资金。而与此同时，数据中心吞噬电力和水资源、模型训练依赖大量低薪数据标注劳动、生成式AI冲击内容从业者生计、算法歧视在医疗与司法系统中反复出现——这些“当下之害”很少登上同等量级的头条。

“卡特尔”：不是合谋，而是一种事实上的俱乐部

贝南蒂真正担心的，是大型实验室之间的“卡特尔”式行为。严格来说，这未必是法律意义上的价格合谋，而是一种结构性的权力集中：前沿模型的训练门槛极高，需要数十亿美元资本、百万级GPU集群、长期电力合同和稀缺人才。结果是，全球只有少数几家公司有能力站在最前沿，它们不仅共享供应商、共享人才池，也共享同一套关于“什么是AGI”“什么是负责任的AI”的话语体系。

当这种话语体系被监管者接受，就会出现一个微妙的反转：本应限制企业的规则，可能变成抬高竞争门槛的工具。合规成本、审计标准、安全评估流程，对巨头而言是边际支出，对初创公司和开源社区却可能是生死线。这就是学界长期警告的“监管俘获”在AI领域的版本——规则由被监管者参与定义，最终服务于在位者。

更值得警惕的是地缘层面的不均衡。前沿算力、数据与人才高度集中在少数国家和少数公司手中，而受AI影响最深的全球南方，在治理谈判桌上的席位却屈指可数。贝南蒂反复强调的“包容”，指向的正是这种沉默的大多数。

宗教为何会出现在AI治理的名单上

很多人会疑惑：一位修士凭什么在AI治理中占有一席之地？答案或许在于，AI伦理的争论最终绕不开价值排序，而价值排序恰恰是宗教传统长期处理的题目。当技术公司试图用“安全”作为自我合法化的语言时，教廷这类机构提供的是另一种坐标系：人的尊严、共同善、弱者的优先性。

这并非梵蒂冈第一次介入技术议题。教皇方济各曾在2024年七国集团峰会上就人工智能发表演讲，警告“没有人类控制的机器”将带来危险；他也多次把AI与和平、贫困、劳动尊严联系起来。从这个角度看，贝南蒂的发言不是宗教对科学的越界，而是一个跨国伦理机构试图把技术议题重新政治化——让它回到公共审议，而不是留在实验室和董事会的封闭回路里。

编者按：讨论的重心正在转移

值得注意的是，贝南蒂的担忧与监管风向的变化正在合流。过去两年，反垄断重新成为AI议题的关键词：美国司法部与联邦贸易委员会对算力与模型市场的竞争状况展开调查，欧盟《人工智能法案》与《数字市场法》先后落地，英国竞争与市场管理局也发布了基础模型市场评估。监管者开始追问的问题，不再是“AI会不会毁灭人类”，而是“谁能进入这个市场、谁在制定规则、谁能从中获益”。

这场重心转移并不轻松。一方面，把AI简化为“下一个垄断问题”会低估其特有的风险；另一方面，只谈存在性风险又会让治理停在哲学层面，迟迟无法落地。贝南蒂提供的是一个折中路径：承认技术的能力边界，同时坚持治理必须民主、必须可问责、必须让受影响的人参与其中。

他的警告看似温和，实则尖锐：如果关于人类未来的讨论只由少数几家公司主导，那么无论它们多么善意，最终被决定的都不只是模型参数，而是我们共同生活的方式。

本文编译自WIRED