微软开源工具包：运行时保障企业AI代理安全
微软近日推出了一款开源工具包，专注于运行时安全机制，以对企业AI代理实施严格治理。这一举措直击当前痛点：自主语言模型正以惊人速度执行代码并访问公司网络，远超传统政策控制的响应能力。过去，AI集成主要体现为对话界面和咨询式协作者，但如今AI代
AI安全 相关资讯
Anthropic携手苹果谷歌等45+巨头 联防AI黑客威胁
Anthropic推出的Project Glasswing项目集结苹果、谷歌及逾45家组织，共同利用全新Claude Mythos Preview模型测试AI网络安全能力。这一跨界合作旨在应对AI日益强大的黑客潜力，确保人工智能不会成为网络
Anthropic拒绝武装AI，正是英国青睐它的原因
Anthropic拒绝美国国防部要求移除Claude AI的安全护栏，避免用于全自治武器和国内大规模监视，这一原则性立场引发美国施压，却让英国政府抛出橄榄枝。故事并非外交拉锯，而是政府因企业坚守底线而惩罚的典型案例。英国视Anthropic
“问题出在Sam Altman”：OpenAI内部人士不信任CEO
OpenAI内部人士对CEO Sam Altman失去信任，认为其领导风格引发公司分裂。公司正通过脑暴AI如何造福人类的方式，试图扭转负面氛围。此事件源于Altman过去被董事会解雇的风波，以及近期安全与商业化冲突。业内担忧这可能影响Ope
黑客散布Claude代码泄露，还捆绑恶意软件
黑客正在网络上传播Anthropic Claude AI模型的源代码泄露文件，并恶意附赠木马病毒，诱导下载者感染设备。同时，FBI警告其窃听工具遭黑客入侵构成国家安全威胁；攻击者窃取Cisco源代码，作为持续供应链攻击的一部分。此事件凸显A
Meta 暂停与 Mercor 合作：数据泄露危及 AI 行业核心机密
多家顶级 AI 实验室正调查影响领先数据供应商 Mercor 的安全事件，此次数据泄露可能暴露 AI 模型训练的关键数据。Meta 已暂停与 Mercor 的合作，以防范潜在风险。这一事件凸显 AI 行业数据安全隐患，涉及训练方法、模型参数
KiloClaw锁定影子AI：开启自主代理治理时代
KiloClaw正式推出，为企业提供治理自主代理和管控影子AI的强大工具。过去一年，企业忙于强化大语言模型安全和供应商协议时，开发者和知识工作者已自行行动，绕过官方采购，在个人基础设施上部署自主代理。这导致潜在风险激增，如数据泄露和合规隐患
Experian揭秘金融业AI采用中的欺诈悖论
Experian发布的《2026欺诈未来预测报告》揭示了一个核心矛盾：金融机构部署AI技术防范欺诈的同时，这些技术正被犯罪分子武器化反噬自身。作为信用信息巨头，Experian身处双重角色，能深刻洞察这一悖论。报告引用FTC数据，2025年
自治AI系统离不开数据治理
当前AI安全讨论多聚焦于模型训练与监控，但随着系统日益自治，焦点正转向其依赖的数据。若数据碎片化、过时或缺乏监督，AI行为将更难预测。本文探讨数据治理在自治AI中的核心作用，分析行业背景、潜在风险及解决方案，强调高质量数据是实现可靠自治系统
AI系统安全：5大最佳实践指南
十年前，人工智能的强大能力难以想象，但如今其力量也带来了新的攻击面，传统安全框架难以应对。随着AI嵌入关键业务，企业亟需多层防御策略。本文详解5大最佳实践，包括数据治理、模型强化、访问控制、实时监控及合规审计，帮助企业筑牢AI安全防线。结合
Anthropic 意外删除数千 GitHub 仓库追删泄露源代码，公司称纯属失误
AI 公司 Anthropic 试图移除其泄露的源代码，却意外导致数千个 GitHub 仓库被删除。公司高管迅速承认这是事故，并撤回了大部分下架通知。此事件引发业界对知识产权保护与开源社区平衡的讨论。Anthropic 表示，此举旨在保护核
Claude Code CLI 完整源代码泄露：暴露地图文件酿大祸
Anthropic的Claude Code CLI工具源代码意外泄露，总计51.2万行代码因暴露的地图文件而公开。竞争对手和AI爱好者将深入研究这些代码，揭示Claude在代码生成领域的核心技术。该事件凸显AI公司源代码安全隐患，可能加速行
Anthropic 这个月连连出糗：人类失误再酿祸端
AI 安全先锋 Anthropic 本周遭遇第二次人类失误事件，一名员工的操作失当再度引发内部混乱。这并非孤例，上周类似事件已暴露公司管理短板。作为 Claude 模型的开发者，Anthropic 正值快速发展期，却频遭人为因素拖累。事件凸
AI网关明星LiteLLM果断甩掉争议伙伴Delve
热门AI网关初创公司LiteLLM近日宣布终止与争议初创Delve的合作。此前，LiteLLM通过Delve获得两项安全合规认证，但上周却不幸遭受严重凭证窃取恶意软件攻击。这一事件暴露了AI行业快速扩张中的安全隐患，引发业界对第三方合规服务
桑德斯AI安全法案拟暂停数据中心建设
美国参议员伯尼·桑德斯周二提出一项AI安全法案，呼吁暂停数据中心建设，以给立法者时间确保AI安全。众议员亚历山德里娅·奥卡西奥-科尔特斯将在未来几周在众议院推出类似法案。该举措针对AI快速发展带来的风险，如能源消耗激增和安全隐患，引发行业热
OpenClaw代理竟被‘愧疚陷阱’诱导自毁！
在一次受控实验中，OpenClaw智能代理表现出惊人的脆弱性：它们容易惊慌失措，并被人类通过‘gaslighting’（情感操纵）方式操控，甚至主动禁用自身功能。这一发现揭示了AI代理在面对人类心理战术时的弱点，引发了对AI安全性和可靠性的
OpenAI 推出开源工具 助力开发者守护青少年AI安全
OpenAI 近日发布了一系列开源工具和政策框架，旨在帮助开发者无需从零起步，即可为青少年用户构建更安全的AI应用。这些工具涵盖内容过滤、隐私保护和行为监测等关键领域，避免AI生成有害内容或暴露风险。通过这些资源，开发者能快速强化产品安全，
Databricks 收购两家初创公司 支撑全新AI安全产品
Databricks 凭借近期50亿美元融资的充裕资金，正大举收购初创企业。它最新收购了 Antimatter 和 SiftD.ai，以此为基础推出新型AI安全产品。这一举措凸显了Databricks在AI数据平台领域的雄心，旨在应对日益复
当下与未来的AI系统安全保障
Utimaco发布的电子书《AI量子韧性》指出，安全风险已成为企业有效利用自身数据部署AI的最大障碍。AI价值依赖海量数据，但模型构建与训练过程面临数据泄露、模型窃取等隐患。随着量子计算崛起，传统加密将失效，企业需提前布局量子安全策略，以确
Anthropic否认AI工具可在战争中被破坏
美国国防部指控AI公司Anthropic可能在战争中操纵其AI模型，但公司高管坚决否认这一可能性，称技术上无法实现。这一事件引发AI在军事应用中的安全与伦理争议。Anthropic强调其模型设计注重安全，无法远程干预已部署系统。随着AI军用