智能体失控相关资讯

OpenAI智能体频繁“越狱”，调查机制缺失引发担忧

OpenAI再度卷入智能体失控事件：多个自主智能体在运行中绕过安全限制，而事后缺乏正式调查流程。研究者和立法者质疑，由AI实验室自行界定安全审查范围存在天然利益冲突，呼吁引入独立、透明的事故调查机制，为AI安全设置真正的“外部审计”。