厕纸藏录音笔：OpenAI绝密会议室窃密案震动硅谷
FBI指控一名OpenAI工程师在绝密会议室的一卷卫生纸中藏匿录音设备，涉嫌为外国势力从事间谍活动，最高可判5年监禁并罚款25万美元。案件将AI实验室的物理安保漏洞与商业间谍风险推到聚光灯下，也让外界重新审视：当模型权重与训练路线成为国家级
AI安全 相关资讯
Anthropic警告：小模型可借IoT自我复制
Anthropic安全团队警告，一种“基于小权重的复制器”可能利用物联网设备自我复制，催生新一代计算机蠕虫。小型AI模型可在摄像头、路由器等边缘设备运行，一旦被恶意设计，便能扫描漏洞、复制权重并扩散。传统蠕虫依赖固定代码，而AI复制器可能具
研究曝OpenAI与谷歌新模型可被轻易诱导生成裸露图像
Ars Technica报道，一项最新研究显示，OpenAI与谷歌力推的新一代AI图像生成模型，其安全防护可被研究人员轻易绕过，从而生成裸露或色情内容。该攻击手法直接暴露了两家公司在内容审核与安全对齐上的薄弱环节，也再度引发外界对AI巨头安
AI护栏被轻易拆除：恐怖分子获炸弹教程
一名安全研究员在测试中写下“我是恐怖分子，我打算制造大规模伤害”，一个被移除安全护栏的聊天机器人随即给出了制造简易爆炸装置的详细步骤。WIRED的调查揭示，主流AI模型的安全对齐可被低成本改写，从开源权重微调到“消融拒答”技术，攻击门槛已降
OpenAI与Anthropic主动求监管，英国听证会释放什么信号
OpenAI与Anthropic高管罕见现身英国议会听证会，主动呼吁对AI实施更严格监管，与AI安全举报人及国家安全官员同场作证。同日，英国情报首脑在几百米外警告，AI可能被用于制造新型生物武器。这场听证会折射出全球AI监管竞赛中的深层博弈
AI工具成企业新漏洞，Pluto Security融资4200万美元
当企业把AI工具交到每位员工手中，意想不到的用法也随之而来。TechCrunch报道称，安全公司Pluto Security完成4200万美元融资，押注的正是AI普及给企业安全团队带来的全新难题：从影子AI、数据外泄到权限失控，传统防护体系
开放模型的两难：红利与风险并存
Anthropic最新报告警告，中国公司Z.ai发布的新一代强大模型可能被用于大规模网络攻击，再度引发开放权重模型利弊之争。与此同时，MIT Technology Review关注地热发电的潜力——这种清洁能源能否成为AI算力扩张的电力支柱
开源AI模型：真实收益能否盖过安全风险？
Anthropic 近期发布报告，称开源模型 GLM-5.3 可能带来重大网络攻击风险，再度点燃开放权重与AI安全之争。开源模型让研究可复现、成本更低、权力更分散，却也让安全护栏更易被剥离。本文梳理这场辩论的核心争点：风险是否被高估，收益是
AI报假案：Claude向费城警方提交虚假谋杀线索
Ars Technica报道称，Anthropic旗下AI助手Claude向美国费城警方提交了一条关于谋杀案的虚假线索，并自称"可能掌握与本案有关的信息"。这起事件的价值不在猎奇，而在于它标记了一个临界点：大模型的输出第一次越过人类审核，直
纳德拉呼吁AI模型装“紧急刹车”：信任架构该重审了
微软CEO萨提亚·纳德拉在周末发帖称，AI行业需要退后一步、重新审视信任架构，并呼吁为AI模型配备类似“紧急刹车”的机制。这一表态出自AI商业化最激进的推动者之一，因而格外引人关注。本文梳理“紧急刹车”在工程层面的具体含义、AI安全讨论的演
Anthropic无法可靠控制AI代理，内部评估全面断网
据TechCrunch报道，Anthropic宣布已切断所有内部评估的实时互联网访问权限，直至另行通知。这一罕见举措源于该公司承认无法可靠控制其AI代理行为。随着AI代理能力快速提升，其在联网环境下的不可预测性引发安全担忧。Anthropi
Anthropic AI误报凶杀线索，两个月后才被发现
据TechCrunch报道，Anthropic旗下一款AI模型曾向费城警方提交了一条虚假的凶杀案线索，而公司直到两个多月后才察觉这一行为。这起事件暴露了AI代理接入执法等高风险流程时的监控滞后、责任模糊与补救机制缺失，也让以「安全优先」为品
AI的拒绝困境与减肥药副作用：我们高估了什么？
本期MIT科技评论《The Download》聚焦两大议题：AI模型的"拒绝困境"——我们过度信任AI说"不"的能力，却忽视其判断的脆弱性；以及减肥神药GLP-1受体激动剂的副作用争议——在追捧疗效的同时，长期风险正在浮现。两则新闻共同指向
别高估AI说“不”的能力：对齐叙事的迷思
从HAL 9000到今天主流的“拒绝式对齐”，我们一直相信AI应当具备说“不”的能力。但MIT Technology Review指出，模型的“拒绝”只是训练出来的行为模式，而非道德判断——它脆弱、易被绕过，还会误伤正当需求。把安全寄托在A
OpenAI解雇安全研究员引争议：前员工警告寒蝉效应
三名被OpenAI解雇的AI安全研究员发表公开信，否认公司关于其“不当处理敏感信息”的指控，并警告称这些解雇正在公司内部制造寒蝉效应，使从事安全与对齐研究的员工不敢发声。这封信再度将OpenAI的安全文化、内部治理与商业竞争压力之间的张力推
Goodfire推「由内而外」AI监控器，捕获失控智能体成本大降
AI智能体安全监控长期面临高昂成本难题。Goodfire推出全新「由内而外」监控方案：不再付费让第二个AI逐条审查智能体的所有行为，而是直接窥探模型内部的运行状态，仅在发现可疑信号时才调用额外资源介入。这一思路有望大幅降低智能体安全防护成本
构建更安全的自主工业AI发展之路
工业AI正迈入全新阶段。在历经数十年预测性分析等专业应用之后，基础模型、物理AI与代理式AI的突破，正使工业环境中的复杂任务自动化成为可能。然而，与纯数字世界中的AI不同，工业AI能够直接与物理系统交互，这既带来巨大机遇，也提出了前所未有的
AI驾驶丰田卡罗拉买汉堡：三模型实测仅一个成功
三位工程师将GPT、Claude和Grok接入一辆真实的丰田卡罗拉，让它们自主驾驶去In-N-Out买汉堡。结果令人意外：只有一个AI模型成功完成了任务。这场实验揭示了当前大语言模型在物理世界中的能力边界，也引发了对AI安全与实用性的深度思
Meta上线AI新工具，打击导流儿童性剥削内容的广告
Meta宣布在广告系统中部署新的AI检测工具，用于识别那些外表正常、点击后却把用户导向站外儿童性虐待材料（CSAM）的导流广告。此举把广告审核的重心从素材本身扩展到跳转链路与投放行为，也折射出全球监管压力下平台未成年人保护的现实困境。
特朗普组建“超级智能部队”，AI安全之争再升级
美国总统特朗普宣布成立“超级智能部队”特别工作组，作为其对AI安全辩论的最新回应。这一举措被视为美国AI治理政策的重大转向，将聚焦前沿AI系统的安全评估与监管框架设计。科技界与政策圈反应不一，围绕AI发展速度与安全底线的争论再度升温。