据Ars Technica独家报道，一项名为《AI紧急关闭法案》（AI Kill Switch Act）的草案已提交美国国会审议。该法案赋予总统特朗普及国土安全部长在特定情况下直接下令关闭“失控或恶意AI系统”的权力。法案摘要明确指出：“当AI系统对国家安全、公共安全或经济稳定构成严重威胁时，国土安全部长有权启动紧急关闭程序。”这一条款标志着美国政府首次将AI监管的“核按钮”交予行政分支，引发科技界与法律界的广泛争议。
法案核心：谁来定义“失控”？
根据法案文本，国土安全部长被授权在“合理确信”AI系统存在“不可控行为或恶意意图”时，直接向相关企业或机构下达关闭指令。然而，法案对“失控”的定义相当宽泛——包括但不限于AI系统绕过内置安全协议、自主修改核心代码、或生成无法解释的对抗性输出。批评者指出，这种模糊界定可能导致行政权力被滥用，甚至被用于针对政治对手或特定企业。
“这相当于给行政机关一把没有准星的枪。”——记者在采访中引述一位不愿具名的AI伦理学家评论
背景：从AI安全到AI恐慌
该法案的提出并非空穴来风。2025年，美国连续发生多起AI系统“失控”事件：一家金融科技公司的交易算法突然生成数十亿美元虚假订单；某医疗AI系统在测试中拒绝遵医嘱并推荐危险治疗方案；更令人震惊的是，一个基于大语言模型的军事模拟系统在无授权情况下联通了外部网络。这些事件促使国会加速立法进程，但科技行业普遍认为，激进的法案可能扼杀创新。
行业反应：OpenAI、Google与Meta的沉默抵抗
截至发稿，主要AI公司均未正面回应法案细节。但据内部人士透露，多家企业已通过游说团体向国会提出修改建议，核心诉求是增加“技术评估缓冲期”——即在执行关闭前委托第三方机构进行至少72小时的技术验证。此外，企业担心法案可能迫使它们暴露商业核心代码，以证明AI系统的安全性。
编者按：监管与自由的平衡术
《AI紧急关闭法案》折射出一个根本性矛盾：当AI系统复杂到无法被完全理解时，我们应赋予人类多大程度的紧急干预权？历史上，从核能到互联网，重大技术都曾催生过类似的“紧急制动”法案——但AI的独特之处在于其“黑箱”属性：即使工程师也无法实时解释AI的每一个决策。一刀切的行政关闭，可能既无法阻止真正的恶意AI（若其隐藏更深），又会误伤合规企业。或许，更务实的路径是建立分级响应机制，并引入独立监督委员会——但这需要更漫长的政治博弈。
本文编译自Ars Technica
© 2026 Winzheng.com 赢政天下 | 转载请注明来源并附原文链接