马斯克作证：创立OpenAI是为防‘终结者’
在法庭上，埃隆·马斯克作证称，他创立OpenAI的初衷是防止人工智能导致“终结者”式的灾难性后果。法官同时警告马斯克和山姆·奥特曼，要求他们克制在社交媒体上的攻击行为，避免加剧庭外纷争。
AI安全 相关资讯
OpenAI强令AI助手：闭嘴，别谈哥布林！
OpenAI为其编程助手Codex设定了严格的指令：除非绝对必要，否则禁止谈论哥布林、地精、浣熊等奇幻生物。这一看似搞笑的限制，实则揭示了AI安全对齐领域的深层挑战——如何防止AI模型在无关情境下产生偏离预期的输出，确保其专注于任务本身。
谷歌警告：恶意网页正在“下毒”攻击企业AI代理
谷歌研究人员发出警告，公共网页正通过间接提示注入攻击，主动劫持企业AI代理。安全团队扫描Common Crawl公共网页数据库时，发现了一种日益增长的“数字陷阱”趋势：网站管理员和恶意行为者将隐藏指令嵌入标准HTML中，这些指令对用户不可见
Delve客户再遭安全事件，AI行业震动
近日，知名AI代理训练初创公司Context AI披露了一起重大安全事件，而负责其安全认证的合规企业正是陷入困境的Delve公司。这一事件引发了业界对AI安全标准的广泛关注。Delve公司此前因多起安全漏洞而备受质疑，此次事件无疑加剧了外界
AI漏洞发现逆转企业安全成本
自动化AI漏洞发现技术正在逆转传统上对攻击者有利的企业安全成本。过去，将漏洞利用降至零被视为不切实际的目标。传统的运营原则是让攻击变得非常昂贵，以至于只有具备无限预算的对手才能承受，从而阻止随意使用。然而，最近的评估表明，AI技术正在改变这
未经授权组织入侵Anthropic的网络工具Mythos
据报道，未经授权的组织已经获得了Anthropic独家网络工具Mythos的访问权限。Anthropic向TechCrunch表示，他们正在调查这些指控，但坚称没有证据表明其系统受到影响。此次事件引发了对网络安全措施有效性的关注，尤其是在A
Commvault推出云AI工作负载的“撤销”功能
企业云环境现在可以使用Commvault AI Protect提供的撤销功能来保护AI代理。随着自主软件在基础设施中运行，可能会删除文件、读取数据库、启动服务器集群，甚至重写访问策略。Commvault识别到这一治理问题，并推出AI Pro
Claude在HumanX大会上引发热议
在旧金山举办的以人工智能为主题的HumanX大会上，Anthropic公司成为了众人瞩目的焦点。该公司展示的Claude引发了与会者的广泛讨论。Anthropic以其在人工智能安全性和可控性方面的创新而闻名，这次展示的Claude更是体现了
微软开源工具包：运行时保障企业AI代理安全
微软近日推出了一款开源工具包，专注于运行时安全机制，以对企业AI代理实施严格治理。这一举措直击当前痛点：自主语言模型正以惊人速度执行代码并访问公司网络，远超传统政策控制的响应能力。过去，AI集成主要体现为对话界面和咨询式协作者，但如今AI代
Anthropic携手苹果谷歌等45+巨头 联防AI黑客威胁
Anthropic推出的Project Glasswing项目集结苹果、谷歌及逾45家组织，共同利用全新Claude Mythos Preview模型测试AI网络安全能力。这一跨界合作旨在应对AI日益强大的黑客潜力，确保人工智能不会成为网络
Anthropic拒绝武装AI，正是英国青睐它的原因
Anthropic拒绝美国国防部要求移除Claude AI的安全护栏，避免用于全自治武器和国内大规模监视，这一原则性立场引发美国施压，却让英国政府抛出橄榄枝。故事并非外交拉锯，而是政府因企业坚守底线而惩罚的典型案例。英国视Anthropic
“问题出在Sam Altman”：OpenAI内部人士不信任CEO
OpenAI内部人士对CEO Sam Altman失去信任，认为其领导风格引发公司分裂。公司正通过脑暴AI如何造福人类的方式，试图扭转负面氛围。此事件源于Altman过去被董事会解雇的风波，以及近期安全与商业化冲突。业内担忧这可能影响Ope
黑客散布Claude代码泄露，还捆绑恶意软件
黑客正在网络上传播Anthropic Claude AI模型的源代码泄露文件，并恶意附赠木马病毒，诱导下载者感染设备。同时，FBI警告其窃听工具遭黑客入侵构成国家安全威胁；攻击者窃取Cisco源代码，作为持续供应链攻击的一部分。此事件凸显A
Meta 暂停与 Mercor 合作：数据泄露危及 AI 行业核心机密
多家顶级 AI 实验室正调查影响领先数据供应商 Mercor 的安全事件，此次数据泄露可能暴露 AI 模型训练的关键数据。Meta 已暂停与 Mercor 的合作，以防范潜在风险。这一事件凸显 AI 行业数据安全隐患，涉及训练方法、模型参数
KiloClaw锁定影子AI：开启自主代理治理时代
KiloClaw正式推出，为企业提供治理自主代理和管控影子AI的强大工具。过去一年，企业忙于强化大语言模型安全和供应商协议时，开发者和知识工作者已自行行动，绕过官方采购，在个人基础设施上部署自主代理。这导致潜在风险激增，如数据泄露和合规隐患
Experian揭秘金融业AI采用中的欺诈悖论
Experian发布的《2026欺诈未来预测报告》揭示了一个核心矛盾：金融机构部署AI技术防范欺诈的同时，这些技术正被犯罪分子武器化反噬自身。作为信用信息巨头，Experian身处双重角色，能深刻洞察这一悖论。报告引用FTC数据，2025年
自治AI系统离不开数据治理
当前AI安全讨论多聚焦于模型训练与监控，但随着系统日益自治，焦点正转向其依赖的数据。若数据碎片化、过时或缺乏监督，AI行为将更难预测。本文探讨数据治理在自治AI中的核心作用，分析行业背景、潜在风险及解决方案，强调高质量数据是实现可靠自治系统
AI系统安全：5大最佳实践指南
十年前，人工智能的强大能力难以想象，但如今其力量也带来了新的攻击面，传统安全框架难以应对。随着AI嵌入关键业务，企业亟需多层防御策略。本文详解5大最佳实践，包括数据治理、模型强化、访问控制、实时监控及合规审计，帮助企业筑牢AI安全防线。结合
Anthropic 意外删除数千 GitHub 仓库追删泄露源代码，公司称纯属失误
AI 公司 Anthropic 试图移除其泄露的源代码，却意外导致数千个 GitHub 仓库被删除。公司高管迅速承认这是事故，并撤回了大部分下架通知。此事件引发业界对知识产权保护与开源社区平衡的讨论。Anthropic 表示，此举旨在保护核
Claude Code CLI 完整源代码泄露：暴露地图文件酿大祸
Anthropic的Claude Code CLI工具源代码意外泄露，总计51.2万行代码因暴露的地图文件而公开。竞争对手和AI爱好者将深入研究这些代码，揭示Claude在代码生成领域的核心技术。该事件凸显AI公司源代码安全隐患，可能加速行