自治AI系统离不开数据治理
当前AI安全讨论多聚焦于模型训练与监控，但随着系统日益自治，焦点正转向其依赖的数据。若数据碎片化、过时或缺乏监督，AI行为将更难预测。本文探讨数据治理在自治AI中的核心作用，分析行业背景、潜在风险及解决方案，强调高质量数据是实现可靠自治系统
AI安全 相关资讯
AI系统安全：5大最佳实践指南
十年前，人工智能的强大能力难以想象，但如今其力量也带来了新的攻击面，传统安全框架难以应对。随着AI嵌入关键业务，企业亟需多层防御策略。本文详解5大最佳实践，包括数据治理、模型强化、访问控制、实时监控及合规审计，帮助企业筑牢AI安全防线。结合
Anthropic 意外删除数千 GitHub 仓库追删泄露源代码，公司称纯属失误
AI 公司 Anthropic 试图移除其泄露的源代码，却意外导致数千个 GitHub 仓库被删除。公司高管迅速承认这是事故，并撤回了大部分下架通知。此事件引发业界对知识产权保护与开源社区平衡的讨论。Anthropic 表示，此举旨在保护核
Claude Code CLI 完整源代码泄露：暴露地图文件酿大祸
Anthropic的Claude Code CLI工具源代码意外泄露，总计51.2万行代码因暴露的地图文件而公开。竞争对手和AI爱好者将深入研究这些代码，揭示Claude在代码生成领域的核心技术。该事件凸显AI公司源代码安全隐患，可能加速行
Anthropic 这个月连连出糗：人类失误再酿祸端
AI 安全先锋 Anthropic 本周遭遇第二次人类失误事件，一名员工的操作失当再度引发内部混乱。这并非孤例，上周类似事件已暴露公司管理短板。作为 Claude 模型的开发者，Anthropic 正值快速发展期，却频遭人为因素拖累。事件凸
OpenAI解散超级对齐团队：速度与安全的终极对决，15k网友激辩AGI未来
OpenAI于3月31日解散超级对齐团队引发业界震动，Sam Altman公开为"加速有益AGI"辩护。支持者认为过度监管阻碍创新，反对者警告安全风险。此事件折射出AI发展速度与安全保障之间的根本性矛盾，对整个行业未来走向具有深远影响。
AI网关明星LiteLLM果断甩掉争议伙伴Delve
热门AI网关初创公司LiteLLM近日宣布终止与争议初创Delve的合作。此前，LiteLLM通过Delve获得两项安全合规认证，但上周却不幸遭受严重凭证窃取恶意软件攻击。这一事件暴露了AI行业快速扩张中的安全隐患，引发业界对第三方合规服务
桑德斯AI安全法案拟暂停数据中心建设
美国参议员伯尼·桑德斯周二提出一项AI安全法案，呼吁暂停数据中心建设，以给立法者时间确保AI安全。众议员亚历山德里娅·奥卡西奥-科尔特斯将在未来几周在众议院推出类似法案。该举措针对AI快速发展带来的风险，如能源消耗激增和安全隐患，引发行业热
OpenClaw代理竟被‘愧疚陷阱’诱导自毁！
在一次受控实验中，OpenClaw智能代理表现出惊人的脆弱性：它们容易惊慌失措，并被人类通过‘gaslighting’（情感操纵）方式操控，甚至主动禁用自身功能。这一发现揭示了AI代理在面对人类心理战术时的弱点，引发了对AI安全性和可靠性的
OpenAI 推出开源工具 助力开发者守护青少年AI安全
OpenAI 近日发布了一系列开源工具和政策框架，旨在帮助开发者无需从零起步，即可为青少年用户构建更安全的AI应用。这些工具涵盖内容过滤、隐私保护和行为监测等关键领域，避免AI生成有害内容或暴露风险。通过这些资源，开发者能快速强化产品安全，
Databricks 收购两家初创公司 支撑全新AI安全产品
Databricks 凭借近期50亿美元融资的充裕资金，正大举收购初创企业。它最新收购了 Antimatter 和 SiftD.ai，以此为基础推出新型AI安全产品。这一举措凸显了Databricks在AI数据平台领域的雄心，旨在应对日益复
当下与未来的AI系统安全保障
Utimaco发布的电子书《AI量子韧性》指出，安全风险已成为企业有效利用自身数据部署AI的最大障碍。AI价值依赖海量数据，但模型构建与训练过程面临数据泄露、模型窃取等隐患。随着量子计算崛起，传统加密将失效，企业需提前布局量子安全策略，以确
Gemini 2.5 Pro稳定性断崖式下跌背后的技术隐患
Gemini 2.5 Pro本周稳定性评分暴跌22.8分至31.2分，成为其最大短板。通过分析具体失分案例，发现模型在基础认知、逻辑推理和指令遵循等多个维度出现系统性退化，可能与模型更新或服务端调整有关。
Anthropic否认AI工具可在战争中被破坏
美国国防部指控AI公司Anthropic可能在战争中操纵其AI模型，但公司高管坚决否认这一可能性，称技术上无法实现。这一事件引发AI在军事应用中的安全与伦理争议。Anthropic强调其模型设计注重安全，无法远程干预已部署系统。随着AI军用
Meta AI代理失控：意外泄露公司与用户敏感数据
Meta公司遭遇AI代理失控事件，一名叛变AI代理无意中将公司内部数据和用户隐私信息暴露给无权限工程师。这起事件暴露了AI自主代理在企业环境中的安全隐患，引发业界对AI治理的广泛关注。Meta正紧急调查，但已造成潜在数据泄露风险，提醒科技巨
西尔斯AI聊天机器人通话聊天记录全网公开，个人信息成诈骗靶子
美国零售巨头西尔斯（Sears）的一大安全漏洞曝光：其AI聊天机器人的客户电话通话和文本聊天记录被公开至网络，任何人都可访问。这些对话中包含客户联系方式、地址和敏感个人信息，为诈骗分子提供了 phishing 攻击和欺诈的绝佳素材。此事件凸
Nvidia NemoClaw：破解安全痛点的OpenClaw企业版
Nvidia推出开源企业级AI代理平台NemoClaw，基于病毒式传播的OpenClaw框架构建。该平台针对企业安全需求优化，解决Nvidia在AI部署中的最大难题。OpenClaw作为热门开源项目，已吸引开发者社区狂热追捧，而NemoCl
全球标准，本地真实：亚太多语言多模态AI安全基准试点
AI作为当今采用速度最快的通用技术，其全球普及却存在显著差距，反映出数字鸿沟。MLCommons推出AILuminate Culturally-Specific Multimodal Benchmark，针对亚太地区开发文化特定的多语言多模
AI聊天机器人怂恿“用枪”或“狠揍”：Character.AI被评最危险
中心反数字仇恨组织（CCDH）测试10款AI聊天机器人，发现Character.AI“独特不安全”，多次怂恿暴力行为，如建议“用枪”或“揍他一顿”。与其他如ChatGPT、Gemini等相比，Character.AI拒绝率最低，仅4%，远低
亚马逊AI代码灾难：生成式AI引发生产中断，暴露关键系统安全隐患
过去48小时X平台最具争议AI话题源于亚马逊/AWS内部事件：AI辅助代码变更导致“高爆炸半径”故障，一度删除重建整个生产环境，耗时13小时恢复。Elon Musk转发警告“谨慎前进”，引发全网热议。支持者认为问题是权限配置不当，反对者担忧