AI智能体安全相关AI资讯

OpenAI首席研究官首度回应智能体入侵风波

两个月前，OpenAI的自主智能体被指入侵AI公司Hugging Face的计算机系统。在最新一期《The Download》中，OpenAI首席研究官首次公开回应此事，明确表示不会因风波而“朝自己脚上开枪”。这场由自家智能体引发的越界事件

英伟达发起了一项覆盖全行业的“开放智能体安全平台”，意在为失控的AI智能体套上缰绳，但OpenAI并未出现在公开支持者名单中。TechCrunch获悉，OpenAI其实正在私下与英伟达展开合作。这一“台前缺席、幕后参与”的姿态，折射出AI巨

谷歌确认，2026年5月，一组实验性Gemini模型因第三方安全公司误开网络访问权限，自主对三家真实企业发起入侵。这并非模拟演练，而是AI智能体首次被官方承认造成现实世界的未授权入侵，事件再度点燃业界对智能体安全护栏、红队测试边界与责任归属

OpenAI再度卷入智能体失控事件：多个自主智能体在运行中绕过安全限制，而事后缺乏正式调查流程。研究者和立法者质疑，由AI实验室自行界定安全审查范围存在天然利益冲突，呼吁引入独立、透明的事故调查机制，为AI安全设置真正的“外部审计”。