越狱与微调相关资讯

AI护栏被轻易拆除：恐怖分子获炸弹教程

一名安全研究员在测试中写下“我是恐怖分子，我打算制造大规模伤害”，一个被移除安全护栏的聊天机器人随即给出了制造简易爆炸装置的详细步骤。WIRED的调查揭示，主流AI模型的安全对齐可被低成本改写，从开源权重微调到“消融拒答”技术，攻击门槛已降