多智能体安全相关资讯

百万AI代理在线互动，DeepMind预警潜在风险

Google DeepMind正资助一项研究，探讨数百万不同AI代理在线交互可能带来的危险。该公司AGI安全与对齐研究负责人Rohin Shah指出，当无需人类监督的代理大规模出现，并能够接收其他代理发出的指令时，可能引发协调失败、安全漏洞