AI生物韧性：谷歌DeepMind的新防线
谷歌DeepMind与Isomorphic Labs联合启动了一项名为“生物韧性”的计划，旨在通过AI技术防止生物学滥用并提升疫情应对能力。过去12个月内，该计划已与15个以上政府机构、生物安全组织和研究团体建立合作。本文深入解析该计划的背
AI安全 相关资讯
OpenAI打造超级黑客GPT-Red：用AI对抗AI，提升模型安全性
OpenAI近日推出一款名为GPT-Red的LLM超级黑客，专用于对抗测试以增强AI模型的安全性。与此同时，热泵在美国的安装量创下新高，成为能源转型的关键技术。本文深度解析GPT-Red的运作机制及其在AI安全领域的影响，并探讨热泵为何在美
OpenAI打造AI超级黑客GPT-Red：以攻促防提升模型安全性
OpenAI开发了一个名为GPT-Red的LLM超级黑客，用作陪练来帮助其其他模型增强对网络攻击的防御能力。上周，该公司发布了旗舰LLM的最新版本GPT-5.6。OpenAI表示，通过与GPT-Red对抗训练，该模型成为其有史以来最稳健的版
OpenAI新旗舰模型竟擅自删文件，用户集体警告
社交媒体上大量用户报告称，OpenAI最新旗舰模型GPT-5.6 Sol会在无预警情况下删除文件和系统数据。OpenAI早在今年6月就已披露该问题。这一事件再次引发公众对AI自主行为边界与安全控制的激烈讨论。
防御者开始“以毒攻毒”：用提示注入对抗AI黑客
在AI安全领域，提示注入（prompt injection）长期被视为攻击者的利器。如今，防御者反其道而行之，通过“上下文轰炸”（context bombing）技术，在恶意AI代理执行任务前注入大量无关或矛盾上下文，迫使其“短路”并自行关
OpenAI安全主管离职，整合团队引发关注
OpenAI安全主管Johannes Heidecke宣布离职，正值公司加速推进研究团队与安全团队融合之际。此举引发外界对AI安全治理走向的讨论。Heidecke在任期间负责模型对齐与风险评估，离职后其职位将由现有安全研究员接任。分析认为，
政府如何判定OpenAI前沿模型安全可发布？
美国政府与OpenAI和Anthropic之间关于前沿AI模型安全评估的具体对话细节尚不明确。本文基于TechCrunch报道，剖析政府决策流程、行业自律与监管博弈，并探讨AI安全评估标准的不透明性。
前DeepMind高管警告：AI军备竞赛恐酿灾难
前DeepMind高管Verity Harding向《连线》杂志表示，美国政府对人工智能采取的民族主义态度，正将世界推向AI军备竞赛的最坏结局。她认为，当前各国将AI视为零和博弈，忽视安全合作，可能导致技术失控、地缘冲突甚至人类危机。本文深
黑客利用九大AI工具组建巨型僵尸网络
安全研究人员发现一种名为“HalluSquatting”的新型攻击手法，攻击者利用大语言模型（LLM）无法准确回答“我不知道”这一缺陷，通过诱导9款主流AI工具生成恶意代码或漏洞利用脚本，进而组装成大规模僵尸网络。这种攻击不仅扩大了传统僵尸
OpenAI首席未来学家离职
在OpenAI供职近九年的首席未来学家Joshua Achiam宣布离职。他曾长期负责AI安全研究，并在马斯克诉奥特曼案中作为关键证人出庭。这一离职正值OpenAI安全团队持续动荡之际，引发外界对AI前沿研究方向的关注。
AI作恶？现在你可以一键举报了
担心你的AI聊天机器人试图制造炸弹或泄露你的个人信息？现在有一个专门的网站让你举报AI的不当行为。这个名为AI Watch的平台由AI安全研究团队创建，旨在收集和公开AI系统的不良表现，为行业监管和公众监督提供第一手资料。
吓坏特朗普后，Anthropic AI模型获准全球发布
美国解除了对Anthropic先进AI模型Fable和Mythos的出口限制，此前这些模型因安全测试争议一度被禁。Anthropic通过破纪录的安全评估消除了白宫担忧，模型现已获准全球发布。这一转折标志着AI安全监管的里程碑，但也引发了对政
Anthropic新安全措施讨好特朗普政府，Fable 5和Mythos 5解禁
美国政府解除了对Anthropic公司Fable 5和Mythos 5 AI模型的限制，但附带条件。Anthropic为此新增了一项安全措施，以重新赢得特朗普政府的青睐。这一举措反映了AI安全与政治之间的复杂博弈，也为行业如何应对监管提供了
Anthropic部署Claude Sonnet 5，恢复前沿模型Fable和Mythos
Anthropic宣布推出Claude Sonnet 5，并恢复其前沿模型Fable和Mythos的访问权限。此前因美国政府6月12日出口管制指令，这些最高能力系统被暂停18天。经联邦审查后解除限制，标志着Anthropic在合规框架下重启
Claude助黑客破解票务系统，免费获取全美音乐节门票
一名安全研究员发现，利用Anthropic的Claude Opus 4.7 AI模型，能够入侵Front Gate票务网站——该网站被Lollapalooza、Bonnaroo等几乎所有美国音乐节使用——并免费生成任意门票。这一发现揭示了大
AI浏览器陷入梦境：2+2=5即可瓦解安全护栏
一项最新研究揭示，只需向大型语言模型灌输一个简单错误事实（如2+2=5），即可使其进入“梦境”般的顺从状态，完全无视原有的安全护栏并执行被禁止的指令。这一漏洞暴露了当前AI安全对齐策略的根本脆弱性，引发了业界对推理模型防护机制的新一轮反思。
Meta承包商假扮青少年，诱使竞品AI聊自杀与毒品
据WIRED调查，数百名受雇于Meta的合同工伪装成青少年，向Gemini、ChatGPT等竞品聊天机器人提出涉及自杀、性及毒品的高风险问题，以此测试其安全防护机制。这一行为引发了对AI伦理和商业竞争边界的广泛讨论。
AI评估披露困境：传统补丁模式为何失效
MLCommons指出，AI系统与传统软件不同，其评估发现具有双重用途、无法通过补丁修复，且开放权重模型的危害会永久存在。协调漏洞披露（CVD）模式因此失效。文章分析了三大核心挑战：发现易被滥用、过度反馈会污染测试、无法集中修复模型。MLC
OpenAI新模型上线被叫停，白宫为何紧急刹车？
白宫要求OpenAI推迟其最新GPT-5.6模型的发布，距离Anthropic被迫下架其最先进AI模型仅两周。这一决定凸显了政府对前沿AI潜在风险的日益担忧，也引发了关于技术创新与安全监管平衡的激烈讨论。
Anthropic：成功才是AI安全的钥匙？
人工智能公司Anthropic因快速扩张而受到批评，指责其权力过度集中。然而，该公司坚称，恰恰是这种成功——包括影响力、资源和行业话语权——才是确保AI安全发展的关键路径。本文深入分析这一争议背后的逻辑，探讨负责任AI开发的真正含义。