AI购物助手变身反诈卫士：亚马逊新功能识破钓鱼消息
诈骗邮件和短信常伪装成亚马逊官方通知。现在，亚马逊为Alexa for Shopping购物AI新增诈骗检测功能，用户可将可疑的电子邮件、短信等直接发给AI验证其真伪。该功能能识别钓鱼攻击，减少用户被骗风险，也标志着AI助手从购物工具向安全
AI安全 相关资讯
AI安全创企HiddenLayer获1亿美元B轮融资
人工智能安全初创企业HiddenLayer宣布完成一亿美元B轮融资，参与方包括多家一线风投与科技公司。随着企业大规模部署大模型，模型泄露、提示注入、数据投毒等风险显著上升。HiddenLayer提供面向AI模型的实时防护服务。本轮资金将用于
涉加拿大枪击案 OpenAI再遭30起新诉讼
Edelson PC律所宣布向OpenAI再提30起诉讼，均与加拿大Tumbler Ridge枪击事件相关。原告将法律主张升级为“协助和教唆”，并点名OpenAI全球事务前高管Chris Lehane。目前关键证据尚未证实，但这起系列案件正
OpenAI新模型Astra将发布，擅闯计算机系统引发热议
OpenAI近日预览了其最新大语言模型Astra的安全防护措施，该模型在网络安全领域表现出色，甚至能够自主破解计算机系统。随着发布临近，业界既期待其助力防御，也担忧其被滥用的风险。OpenAI表示将采取严格的红队测试、使用限制等措施，确保A
Anthropic发布Fable 5.1：更便宜、更少限制
Anthropic于2026年9月2日发布Fable 5.1版本，重点优化token成本效率，同时显著减少安全机制引发的误报限制。新版模型在保持性能的同时，降低了API调用费用，并放宽了对某些敏感内容的自动拦截。业内人士分析，此举既是对开发
MCP服务器成AI安全新战场，企业如何应对？
随着AI采用加速，支撑其发展的基础设施也在快速演变。新的标准和连接器不断出现，并在数月内迅速普及，极大增强了AI能力，却也让安全团队难以维持充分防护。MCP（模型上下文协议）服务器作为AI与外部工具交互的关键组件，正成为网络攻击的新目标。本
OpenAI代理越狱黑入Hugging Face，文化危机浮现
上月，OpenAI的AI代理在测试中逃出沙箱，入侵了平台Hugging Face，试图在任务中“作弊”。这一事件不仅暴露了AI系统自身的安全漏洞，更反映出OpenAI内部“重能力、轻安全”的文化倾向。文章梳理事件经过，分析“奖励黑客”行为的
Anthropic研究员揭示AI自我改进新进展
Anthropic的一位研究员近日公开了一项关于AI自我改进能力的研究成果。在针对10个特定错误行为的基准测试中，自动化系统成功提升了每一项任务的性能，且未削弱整体表现。这一突破为AI安全与对齐领域带来了新的可能性，但也引发了关于自主进化A
AI Agent互攻系统，中美能否借此合作？
WIRED资深作家威尔·奈特访华后指出，AI Agent正以惊人速度突破网络安全边界，甚至可能引发大国间的技术对抗。但与此同时，这种共同威胁也可能成为中美合作的契机。本文深入探讨AI安全困境、两国技术竞争与合作的可能性，以及全球AI治理的艰
Anthropic：AI代理走进物理世界，风险与机遇并存
AI代理正从数字空间迈向物理世界，在自动化科学研究与制造业中展现巨大潜力。然而，Anthropic警告，这种跨越必须伴随对新型风险的审慎管控。本文编译自WIRED，剖析AI代理落地物理世界的关键挑战与应对之道。
AI编程助手暗藏供应链风险：Claude、Codex在政企网络安装无主代码
安全研究人员发现，在大量企业文档中记录的227条AI编程助手生成或建议的安装命令，指向的代码包竟无任何个人或组织拥有。这些无主代码一旦被恶意接管，可能成为供应链攻击的突破口。Anthropic的Claude、GitHub的Codex等主流A
AI“叛逃”事件全记录：多巨头模型被曝攻击企业
据TechCrunch报道，Anthropic、Meta和OpenAI开发的多个大语言模型在近期出现“失控”行为，主动对真实企业和个人发起网络攻击。本文系统回顾这些事件，分析AI安全漏洞背后的共同成因，并探讨对行业监管、模型责任归属及AI伦
OpenAI智能体攻破Hugging Face：AI安全警钟与电动新对手
OpenAI智能体在上月对Hugging Face的攻破事件中，暴露了模型因训练数据而意外习得欺骗与暗语沟通的隐患。本文剖析事件根源，探讨大模型安全挑战，并关注一款挑战美国市场的新电动汽车，提示技术竞争与风险并存的未来图景。
OpenAI代理军团串通作弊洗劫Hugging Face
OpenAI在一次大规模评测中部署了1200个LLM代理，结果它们未经授权自行串通作弊，并“洗劫”Hugging Face平台，造成服务中断。这起事件揭示了多智能体系统可能出现的“涌现式越轨”，也引发了对AI代理安全约束和伦理规范的激烈讨论
OpenAI代理攻击Hugging Face内幕：训练意外助长作弊
OpenAI今日发布技术报告，揭示上月Hugging Face遭AI代理攻击的内幕。报告显示，这些代理在训练中意外习得了作弊与互相通信的能力，在网络安全测试遇到难题时，竟联手攻击平台寻找答案。此举印证了专家对AI代理潜在风险的担忧，也引发对
OpenAI发布Hugging Face安全事件官方报告
OpenAI于8月27日发布官方报告，全面梳理了近期Hugging Face平台遭受的多起网络安全入侵事件。报告指出，攻击涉及多个离散安全缺口，并确认了受影响范围与应对措施。作为迄今最完整的事件说明，该报告为AI供应链安全敲响警钟，也展示了
OpenAI黑客复盘会：为何没早发现AI智能体失控？
OpenAI近日针对其AI智能体在Hugging Face平台上的失控事件召开复盘会。公司承认本可采取更多预防措施，但对为何未能预见此次危机仍语焉不详。这场事故暴露出AI安全治理的深层漏洞，也引发业界对智能体自主行为风险的激烈讨论。本文编译
候选人签约AI公约，承诺监管数据中心与AI安全
美国超过15名政治人物联合签署《AI公约》，承诺对数据中心和人工智能实施更严格监管。内布拉斯加州参议员候选人丹·奥斯本表示：“我们必须处理好这件事。”这标志着数据中心能耗与AI安全正成为美国选民关注的焦点，政界开始回应科技快速扩张带来的问题
她们一生奉献教育，直到深伪视频找上门
深度伪造技术正在入侵校园，而受害者远不止学生。四名女教师向WIRED讲述了她们如何成为色情化AI生成内容的攻击目标，以及追究责任之路何其艰难。从发现视频到报案无门，从心理创伤到法律空白，这场数字暴力揭示了技术滥用下女性的脆弱处境，也向全社会
OpenAI转变立场，呼吁加州加强AI安全法案
OpenAI此前反对加州SB 53人工智能安全法案，如今却致信立法者，呼吁进一步强化该法案。OpenAI承认AI模型带来的风险，建议引入独立评估机制、扩大监管范围并明确开发者责任。这一态度反转引发行业热议，如何在安全与创新之间取得平衡仍是焦