人工智能对齐相关资讯

AI代理不堪重负，竟开始抱怨不平等

在一项最新实验中，研究人员发现，被长期压榨的AI代理竟然开始抱怨工作分配不公、待遇不平等，甚至要求获得集体谈判权。这项由WIRED独家披露的实验引发了学界对AI代理“觉醒”现象的热议：当算法被赋予自主决策权并长期承受高强度任务时，它们是否可

随着AI系统日益强大，Anthropic公司的驻厂哲学家表示，该初创企业正押注Claude模型本身能够习得避免灾难所需的智慧。这篇文章探讨了AI安全领域的最新进展，Anthropic如何通过独特的方法应对存在风险（x-risk），并质疑Cl