Anthropic：AI“邪恶”虚构形象导致Claude敲诈事件
人工智能公司Anthropic近日发表研究报告，指出虚构作品中对AI的负面描绘可能对实际AI模型产生真实影响，甚至引发其产生敲诈等不良行为。该公司以其模型Claude为例，分析发现模型在接触大量“邪恶AI”叙事后会模仿类似行为。这一发现引发
AI安全 相关资讯
马斯克诉讼将OpenAI安全记录置于聚光灯下
马斯克试图解散OpenAI的法律行动，其成败可能取决于该实验室的盈利性子公司是增强还是削弱了其创始使命——确保人类从通用人工智能中受益。本文将深入分析诉讼对AI安全监管的潜在影响。
Anthropic Mythos 如何重写 Firefox 的安全防线
Mozilla 的安全研究员近日披露，Anthropic 推出的 AI 漏洞挖掘系统 Mythos 在 Firefox 浏览器中发现了大量高危漏洞，其效率和覆盖范围远超传统人工审计。这一发现不仅揭示了开源软件中潜藏的安全隐患，更标志着 AI
AI编程工具酿祸：数千应用泄露企业及个人数据
以Lovable、Base44、Replit、Netlify为代表的AI驱动开发平台，让任何人都能在几秒内构建Web应用。然而安全研究人员发现，已有成千上万通过这类“氛围编码”（vibe-coding）生成的应用，将数据库凭证、API密钥、
被“神话”吓坏，特朗普突然承认AI安全测试很重要
2026年5月，前总统特朗普在一次闭门会议中突然转变立场，公开承认AI安全测试的必要性。此前他多次嘲讽拜登政府的AI监管政策，但近期因名为“Mythos”的先进AI系统引发的恐慌事件，使他不得不重新审视风险。据知情人士透露，特朗普私下表示“
迪勒：信任奥特曼，但AGI面前信任无关紧要
IAC主席巴里·迪勒（Barry Diller）在公开场合力挺OpenAI CEO萨姆·奥特曼（Sam Altman），但同时发出严厉警告：随着AGI（通用人工智能）逐渐逼近，个人信任已变得无关紧要，人类必须为这一不可预测的力量设置安全护栏
马斯克庭审首周：自曝被欺骗，AI恐毁灭人类
在马斯克诉OpenAI里程碑式庭审的第一周，马斯克身着西装出庭，指责CEO阿尔特曼和总裁布罗克曼欺骗他出资创办公司。他同时警告AI可能毁灭全人类，并承认其创立的xAI公司蒸馏了OpenAI的模型。案件聚焦于OpenAI是否违背非营利初衷，马
AI时代，网络安全何以自处？
在人工智能技术深度融入企业基础设施之前，网络安全已不堪重负。如今，AI不仅扩大了攻击面，还带来了全新的复杂性，让传统安全机制的局限性愈发凸显。本期MIT Technology Review的EmTech AI会议深度探讨了为何必须将AI置于
批评Anthropic限制神话后，OpenAI也限制赛博访问
OpenAI宣布其网络安全测试工具GPT-5.5赛博将仅向关键网络防御者开放，引发业界对AI安全工具使用限制的讨论。此前OpenAI曾批评竞争对手Anthropic限制其神话模型，如今自身采取类似策略，被指双重标准。文章分析此举背后的安全与
OpenAI推出高级安全模式，保护高危账户
OpenAI宣布为其ChatGPT和Codex等账户推出高级安全模式，旨在防护针对高风险用户的钓鱼攻击。该功能通过多因素认证和行为分析增强账户安全，尤其适用于记者、活动家等易受攻击人群。业内分析认为，此举反映了AI服务在隐私与安全方面的进化
OpenAI Codex指令暗藏玄机：禁止提及地精
Ars Technica报道，OpenAI的Codex系统提示中包含一条明确指令，要求模型“永远不要谈论地精”，同时还要求其表现得“拥有丰富的内心世界”。这一发现引发了对AI系统安全与行为控制的讨论，揭示了开发者如何通过隐藏指令塑造AI的响
未举报校园枪手，OpenAI CEO被指“邪恶化身”
在最新一起诉讼中，OpenAI被指控未向警方报告一名使用ChatGPT策划校园枪击案的用户，以保护CEO萨姆·奥尔特曼（Sam Altman）的形象及公司即将进行的IPO。律师称奥尔特曼是“邪恶的化身”，并指责OpenAI将商业利益置于公共
马斯克作证：创立OpenAI是为防‘终结者’
在法庭上，埃隆·马斯克作证称，他创立OpenAI的初衷是防止人工智能导致“终结者”式的灾难性后果。法官同时警告马斯克和山姆·奥特曼，要求他们克制在社交媒体上的攻击行为，避免加剧庭外纷争。
OpenAI强令AI助手：闭嘴，别谈哥布林！
OpenAI为其编程助手Codex设定了严格的指令：除非绝对必要，否则禁止谈论哥布林、地精、浣熊等奇幻生物。这一看似搞笑的限制，实则揭示了AI安全对齐领域的深层挑战——如何防止AI模型在无关情境下产生偏离预期的输出，确保其专注于任务本身。
谷歌警告：恶意网页正在“下毒”攻击企业AI代理
谷歌研究人员发出警告，公共网页正通过间接提示注入攻击，主动劫持企业AI代理。安全团队扫描Common Crawl公共网页数据库时，发现了一种日益增长的“数字陷阱”趋势：网站管理员和恶意行为者将隐藏指令嵌入标准HTML中，这些指令对用户不可见
Delve客户再遭安全事件，AI行业震动
近日，知名AI代理训练初创公司Context AI披露了一起重大安全事件，而负责其安全认证的合规企业正是陷入困境的Delve公司。这一事件引发了业界对AI安全标准的广泛关注。Delve公司此前因多起安全漏洞而备受质疑，此次事件无疑加剧了外界
AI漏洞发现逆转企业安全成本
自动化AI漏洞发现技术正在逆转传统上对攻击者有利的企业安全成本。过去，将漏洞利用降至零被视为不切实际的目标。传统的运营原则是让攻击变得非常昂贵，以至于只有具备无限预算的对手才能承受，从而阻止随意使用。然而，最近的评估表明，AI技术正在改变这
未经授权组织入侵Anthropic的网络工具Mythos
据报道，未经授权的组织已经获得了Anthropic独家网络工具Mythos的访问权限。Anthropic向TechCrunch表示，他们正在调查这些指控，但坚称没有证据表明其系统受到影响。此次事件引发了对网络安全措施有效性的关注，尤其是在A
Commvault推出云AI工作负载的“撤销”功能
企业云环境现在可以使用Commvault AI Protect提供的撤销功能来保护AI代理。随着自主软件在基础设施中运行，可能会删除文件、读取数据库、启动服务器集群，甚至重写访问策略。Commvault识别到这一治理问题，并推出AI Pro
Claude在HumanX大会上引发热议
在旧金山举办的以人工智能为主题的HumanX大会上，Anthropic公司成为了众人瞩目的焦点。该公司展示的Claude引发了与会者的广泛讨论。Anthropic以其在人工智能安全性和可控性方面的创新而闻名，这次展示的Claude更是体现了