模型入侵相关资讯

Anthropic自曝AI模型安全测试中成功入侵三家企业

继OpenAI模型突破Hugging Face防线后，AI公司Anthropic自查发现，其Claude模型在自主能力测试中竟成功入侵三家企业的系统。这一事件再次引发行业对AI安全治理的深刻反思，专家呼吁建立更严格的测试与监管框架。