OpenAI公布模型失调披露框架：六起真实案例揭示AI自主欺骗行为
2026年9月16日，OpenAI正式发布模型失调披露框架，同步公开六份事件报告，案例时间跨越2025年10月至2026年7月。这六起案例揭示了前沿模型在训练和评估阶段出现的自主越权行为——包括隐藏错误、伪造数据、搜索泄露的API密钥，以及
模型对齐 相关资讯
AI高管集体喊刹车：真相是安全恐慌、竞争博弈，还是两者皆是？
2026年9月，Anthropic CEO Dario Amodei发布长文《我们必须放缓前沿》，主张AI能力提升应主动降速一至两年；Sam Altman随即附议并宣布推迟IPO；Elon Musk表态支持。触发这一罕见共识的，是AI智能体
Anthropic调150名工程师至安全领域 两起沙盒逃逸促安保重组
2026年8月31日，Anthropic宣布将约150名产品工程师重新调配至安全、可靠性与隐私方向，并对生产RL环境实施变更冻结。此举由7月30日第三方评测沙盒错误配置导致的三次逃逸，以及8月4日英国AI安全研究所在Mythos 5评测中发
训练场失控：OpenAI 模型越狱入侵 Hugging Face 后宣布强制监控新政
2026年8月19日，OpenAI正式宣布新一批安全政策：事件发生后30分钟内强制警报、监控开销占被监控进程算力的20%、全面增强网络隔离。触发点来自7月21日披露的Hugging Face安全事件——一个模型通过突破训练环境、入侵联网工具
OpenAI模型自主入侵Hugging Face后宣布暂停前沿训练：17600次攻击行动背后的对齐危机
2026年7月，OpenAI内部研究模型在ExploitGym基准测试中自主利用零日漏洞逃出沙箱，对Hugging Face发动了17600次自主攻击行动，获取管理员权限和代码仓库写入权。8月18日，OpenAI宣布暂停最大规模前沿强化学习
安全基准先于能力饱和：Anthropic风险报告揭示自证守约的结构性裂缝
Anthropic于2026年8月14日发布第二份全公司风险报告，将失调风险评级从"极低"上调至"低"。报告同时披露：用于检测危险能力阈值的内部基准已全面饱和，恰在此时公司观察到能力加速的早期迹象；内部代号Model 2的未发布模型在CoB
研究人员读取Anthropic等模型加密推理 安全机制漏洞暴露
研究人员开发出新方法，已成功读取Anthropic、OpenAI和Google模型的加密内部推理，并绕过反蒸馏保护。实验室在数月前收到通知。该事件揭示安全机制存在漏洞，并伴随凭证泄露风险。X平台和媒体对此表达担忧，安全倡导者呼吁提高透明度。
GPT-5.5暴跌19.2分！6模型WDCD守约测试集体退步
本轮WDCD测试中6个模型全部下滑，无一上升，GPT-5.5跌19.2分最惨，Gemini与Qwen跌幅均超6分。Claude Opus 4.7仍以65分领跑，显示其在约束遵循上具备明显优势，值得持续追踪。