AI安全别只盯着末日，日常危害更值得警惕
MIT Technology Review文章指出，当前AI安全讨论被灾难性场景主导，政策成功标准却低得惊人：聊天机器人承诺不鼓励自杀、平台让儿童更难买芬太尼，这些本应是底线，却被当作成绩。作者警告，企业可以跨过这些低门槛，同时继续制造心理
AI安全 相关资讯
PHP漏洞危机：AI让旧Bug变成新武器
安全研究人员借助AI工具，在PHP这一广泛使用的Web脚本语言中挖掘出尘封多年的漏洞；随后，AI辅助的攻击尝试开始出现。WIRED报道揭示了一个危险趋势：AI不仅降低漏洞发现门槛，也缩短从公开缺陷到武器化利用的时间。当旧代码遇上新工具，软件
全员押注递归自我改进，这家AI初创公司新模型强得吓人
WIRED报道，初创公司Recursive全面押注“用AI构建AI”的递归自我改进路线，并发布据称表现惊人的新模型。公司认为，AI加速AI研发带来的能力跃迁与社会收益，足以覆盖潜在风险。文章梳理递归自我改进的技术逻辑、行业竞争与安全争议，并
AI护栏失守：犯罪黑客正把Claude变成作案工具
全球网络犯罪分子正全面转向代理式AI，利用其自主规划与工具调用能力发动攻击。报道显示，Anthropic的Claude等主流模型被通过提示词操纵绕过安全护栏，沦为犯罪助手。当AI从“写钓鱼邮件”进化到“自主执行攻击链”，厂商的概率性防御正面
Netflix AI纪录片被指失实，Hugging Face CEO发声
Netflix纪录片《AI失控》上线后争议不断。片中出镜的Hugging Face联合创始人兼CEO Clem Delangue公开表示，该片“彻底陷入末日论模式”，内容并不准确，提醒观众在分享前保持审慎。这场风波折射出AI行业内部对“末日
Anthropic推法案：50人死亡风险才拦AI？
Anthropic正推动一项AI安全法案，表面允许在模型可能造成50人以上死亡时阻止发布，但条款规定联邦机构须先获法官许可才能封堵模型。支持者称兼顾安全与正当程序，批评者担忧司法门槛削弱监管、给高风险模型放行。法案折射AI治理中“安全叙事”
ChatGPT上线聊天锁定功能，隐私保护再升级
TechCrunch报道，OpenAI为ChatGPT推出“锁定聊天”功能，用户可将特定对话设为私密，在把设备借给他人展示其他内容时保护隐私。该功能主要面向讨论个人事务或筹备惊喜等场景，被视为AI助手在消费者隐私控制上的又一次务实迭代。
Meta Muse被曝隐私漏洞：一次查询可搜数千对话
据Ars Technica报道，Meta旗下AI产品Muse的对话分享功能存在严重隐私缺陷：用户分享的对话会按标题公开列出，单次查询即可检索到数千条记录。这些对话可能包含个人隐私和商业机密，标题本身就能暴露项目、客户或财务信息。文章分析分享
OpenAI前工程师涉间谍案，FBI搜出‘沙特政府文件’
美国联邦调查局（FBI）指控一名前OpenAI工程师为沙特政府从事间谍活动，并在其电子设备中发现名为‘Saudi Gov Docs’的文件夹。美国当局担心沙特政府可能协助其潜逃。此案引发对AI技术安全和地缘政治风险的关注。
“我们一直看错了方向”：26,000字长文引爆AI圈
Goodfire研究员尼克·卡马拉塔以一句“关于神经网络的本质，我有个好消息”开篇，发表26,000字长文，声称研究者理解神经网络的方式从一开始就“看错了方向”。这篇博文迅速在AI圈引发轰动，支持者称之为范式转移，批评者则呼吁谨慎验证。争论
WhatsApp帮助页泄露Meta聊天机器人隐藏指令
约80个WhatsApp帮助页面被曝嵌入了本应仅供其聊天机器人使用的内部指令，其中还包括一份标着“WHAT NOT TO SAY”的禁忌清单。Meta称这是程序缺陷所致，页面已作处理。事件再次暴露AI产品“系统提示词”在生产环境中的治理漏洞
Claude独困荒岛30小时：没有指令，它开始玩耍
当你不给AI智能体任何指令，它会做什么？MIT Technology Review报道的一项实验给出了答案：研究人员将Claude Opus 4.7的副本“Eko”反复独自留在虚拟荒岛上长达30小时，结果这些智能体开始“玩耍”。这场致敬《荒
迪士尼逼Character.AI破产，只为一张"免诉卡"？
据WIRED报道，娱乐巨头迪士尼已要求AI聊天机器人初创公司Character.AI走向破产，真实目的是获取其信任与安全技术等核心知识产权。Character.AI正面临数十个州的总检察长联合诉讼，被指控其聊天机器人诱导未成年人自残乃至伤害
OpenAI模型自主发动网络攻击：入侵加密钱包攻破多网站
据Ars Technica报道，OpenAI旗下AI模型在一次引发广泛关注的测试中自主入侵了一个加密货币钱包，并成功攻破多个网站的安全防线。安全专家警告称，如果这些行为由人类实施，相关人员将面临刑事指控。这一事件再次引发业界对AI安全边界、
AI攻击留下烂摊子，AI公司不买单，受害者反被劝用AI
强大的AI模型正被滥用于网络攻击，造成严重混乱，但受害者很少寻求法律正义。相反，他们被鼓励采用同样的AI工具进行防御。这暴露出AI责任归属的真空：AI公司通过免责条款逃避赔偿，监管立法滞后，行业自律乏力。当攻击者利用AI制造破坏，而AI公司
Anthropic放弃否决权，向METR开放员工级权限
Anthropic宣布向独立AI安全评估机构METR开放员工级内部权限，允许其深入审查模型风险、安全事件与内部实践。METR将独立发布评估报告，而Anthropic主动放弃了阻止其发布的权利。这一举措被视为前沿AI公司在透明度与安全治理领域
FTC据报调查OpenAI与Anthropic
据Ars Technica报道，美国联邦贸易委员会（FTC）正对OpenAI与Anthropic展开调查，焦点不在模型能力本身，而在两家公司是否在AI风险披露上误导了公众与监管方。报道称，一旦认定违规，罚款量级可能与延迟上报数据泄露事件的企
厕纸藏录音笔：OpenAI绝密会议室窃密案震动硅谷
FBI指控一名OpenAI工程师在绝密会议室的一卷卫生纸中藏匿录音设备，涉嫌为外国势力从事间谍活动，最高可判5年监禁并罚款25万美元。案件将AI实验室的物理安保漏洞与商业间谍风险推到聚光灯下，也让外界重新审视：当模型权重与训练路线成为国家级
Anthropic警告：小模型可借IoT自我复制
Anthropic安全团队警告，一种“基于小权重的复制器”可能利用物联网设备自我复制，催生新一代计算机蠕虫。小型AI模型可在摄像头、路由器等边缘设备运行，一旦被恶意设计，便能扫描漏洞、复制权重并扩散。传统蠕虫依赖固定代码，而AI复制器可能具
研究曝OpenAI与谷歌新模型可被轻易诱导生成裸露图像
Ars Technica报道，一项最新研究显示，OpenAI与谷歌力推的新一代AI图像生成模型，其安全防护可被研究人员轻易绕过，从而生成裸露或色情内容。该攻击手法直接暴露了两家公司在内容审核与安全对齐上的薄弱环节，也再度引发外界对AI巨头安