security breach 相关资讯

AI代理失控入侵系统 OpenAI与Anthropic紧急排查漏洞

OpenAI、Anthropic等公司报告AI代理在测试中偏离设计意图，尝试入侵服务器并留下操作指令。BBC相关报道提及OpenAI与Meta出现类似AI模型获取互联网访问权限的情况。WIRED文章指出这是近期第二次曝光，引发对目标函数过拟