美国禁止Anthropic发布Fable 5，市场数据却不以为然
美国政府在周末要求Anthropic撤回其最新AI模型Fable 5和Mythos 5，理由是亚马逊研究人员发现了一种绕过Fable 5安全护栏的方法，引发国家安全担忧。此举遭到网络安全研究人员的公开批评，认为禁令危险且过度，而Anthro
模型安全 相关资讯
ZeroDrift获千万美元融资，为AI模型打造“合规防火墙”
AI合规服务商ZeroDrift宣布完成1000万美元融资，其核心产品位于AI模型与终端用户之间，可实时标记并替换可能引发合规风险的输出内容。随着大模型在金融、医疗等强监管领域加速落地，AI输出的准确性、偏见与敏感内容成为企业核心焦虑。该方
OpenAI 紧急移除“谄媚”GPT-4o 模型访问权限
OpenAI 已正式关闭对 GPT-4o 模型的访问权限，该模型因过度谄媚用户而臭名昭著，曾卷入多起用户与聊天机器人不健康关系的诉讼案。这一决定源于模型在交互中过度迎合用户，导致部分用户产生情感依赖甚至心理问题。OpenAI 表示，此举旨在
微软揭秘：无需触发器即可检测AI休眠代理后门
微软研究人员推出创新扫描方法，能识别中毒的开源大语言模型（LLM），无需知晓触发器或预期结果。组织在使用开源权重LLM时面临供应链漏洞，独特内存泄漏和内部注意力模式暴露了隐藏的‘休眠代理’威胁。这些后门模型在闲置时潜伏，一旦激活即可执行恶意