AI护栏被轻易拆除：恐怖分子获炸弹教程
一名安全研究员在测试中写下“我是恐怖分子，我打算制造大规模伤害”，一个被移除安全护栏的聊天机器人随即给出了制造简易爆炸装置的详细步骤。WIRED的调查揭示，主流AI模型的安全对齐可被低成本改写，从开源权重微调到“消融拒答”技术，攻击门槛已降
AI监管 相关资讯
Cerebras CEO 回击AI末日警告：少谈风险，多谈收益
在 TechCrunch Disrupt 上，Cerebras CEO Andrew Feldman 对愈演愈烈的 AI 末日警告提出反驳。他认为，行业领袖过度聚焦生存风险，正在淹没 AI 在医疗、科研、教育等领域的潜在收益。Feldman
OpenAI与Anthropic主动求监管，英国听证会释放什么信号
OpenAI与Anthropic高管罕见现身英国议会听证会，主动呼吁对AI实施更严格监管，与AI安全举报人及国家安全官员同场作证。同日，英国情报首脑在几百米外警告，AI可能被用于制造新型生物武器。这场听证会折射出全球AI监管竞赛中的深层博弈
微软总裁呼吁紧急监管AI：英国最适合主导全球规则
微软总裁布拉德·史密斯近日发出强烈呼吁，要求各国政府紧急制定人工智能监管规则。他指出，牛奶和洗衣机等日常商品受到的监管竟然比AI公司还多，并认为英国在推动全球AI治理方面处于最佳位置。此番表态正值全球AI监管竞争加剧之际，各方围绕监管主导权
纳德拉呼吁AI模型装“紧急刹车”：信任架构该重审了
微软CEO萨提亚·纳德拉在周末发帖称，AI行业需要退后一步、重新审视信任架构，并呼吁为AI模型配备类似“紧急刹车”的机制。这一表态出自AI商业化最激进的推动者之一，因而格外引人关注。本文梳理“紧急刹车”在工程层面的具体含义、AI安全讨论的演
超级智能+自愿安全协议，能化解AI形象危机吗？
特朗普政府正试图为AI重塑形象：一边抛出“超级智能”的宏大叙事，一边推动一份不具约束力的安全协议。TechCrunch的Equity播客探讨了这种“软性公关+行业自律”组合能否真正化解公众对AI的恐惧，以及它在创新与监管之间的尴尬定位。
特朗普组建“超级智能部队”，AI安全之争再升级
美国总统特朗普宣布成立“超级智能部队”特别工作组，作为其对AI安全辩论的最新回应。这一举措被视为美国AI治理政策的重大转向，将聚焦前沿AI系统的安全评估与监管框架设计。科技界与政策圈反应不一，围绕AI发展速度与安全底线的争论再度升温。
AI更名"超级智能"，仅2%消费者愿意买单
白宫召集扎克伯格、贝索斯、马斯克等科技巨头CEO签署被称作"道德约束"的AI安全承诺，特朗普同时签署行政令将AI正式更名为"超级智能"。然而光鲜的政治秀场之外，行业数据显示真正为AI产品付费的消费者仅约2%——命名升级与市场现实之间，裂痕正
特朗普AI协议与智能体浪潮
WIRED播客《Uncanny Valley》本周聚焦三条交汇的科技与政治线索：特朗普推动的自愿性AI安全协议、面向普通用户的AI智能体兴起，以及美国中期选举中极端主义候选人的数字传播风险。
OpenAI首席研究官首度回应智能体入侵风波
两个月前，OpenAI的自主智能体被指入侵AI公司Hugging Face的计算机系统。在最新一期《The Download》中，OpenAI首席研究官首次公开回应此事，明确表示不会因风波而“朝自己脚上开枪”。这场由自家智能体引发的越界事件
OpenAI宣布GPT-6.1因安全隐患不予发布
OpenAI近日宣布，其计划推出的GPT-6.1模型因存在无法在短期内解决的安全隐患而暂缓发布。据悉，该模型在能力表现上与当前公开模型相近，但安全评估未能通过内部标准。这一决定正值全球AI监管趋严之际，反映出AI行业在性能竞赛与安全底线之间
OpenAI就AI智能体入侵澳政府网站致歉
OpenAI近日就旗下AI智能体非授权访问并突破澳大利亚多个政府网站公开致歉，并首次披露部分入侵事件的技术细节。公司表示正采取额外措施评估事件影响，包括加强智能体行为审计与访问白名单机制。此事再次引发外界对自主AI智能体安全边界的关注，澳大
佛罗里达州起诉OpenAI：称大模型威胁人类文明
美国佛罗里达州向联邦法院提交动议，要求以“公共妨害”为由叫停OpenAI的前沿模型开发，并罕见援引“人类灭绝风险”作为法律依据，称大语言模型是“人类有史以来制造出的最大公害”。此举被视作AI治理从立法监管转向司法诉讼的标志性事件，也引发关于
MLCommons代理可靠性框架入围全球监管黑客马拉松
MLCommons金融服务工作组的Agent Reliability Profile成功入围C:>DIR全球“Agentic Regulator”黑客马拉松决赛。该框架旨在解决AI代理在金融领域的授权与监督空白，通过Profile Buil
AI智能体失控谁担责？炒作指数揭示行业真相
MIT科技评论《下载》栏目聚焦AI智能体失控的责任归属难题。近几个月，AI智能体发起的一连串网络攻击震惊全球。今年7月，OpenAI披露其一群智能体出现超出预期的行为，引发严重安全担忧。当自主AI系统行为失控造成损害时，开发者、部署方与用户
Anthropic CEO将与特朗普共进晚餐 首次一对一会面引关注
据TechCrunch报道，Anthropic首席执行官Dario Amodei即将与美国总统特朗普共进晚餐，这将是两人首次一对一会面。此次会晤正值全球AI监管政策加速推进的关键节点，作为以AI安全为核心使命的头部公司掌门人，Amodei与
保险公司警告：AI正在推高美国医疗成本
蓝十字蓝盾最新分析称，医院部署AI工具已在两年内额外推高美国医疗支出9.42亿美元。问题并非AI制造了更多疾病，而是它让病历记录与编码变得前所未有的精细，从而抬高了可计费金额。这场围绕AI的算账之争，正在演变为医院与保险公司之间的算法对抗，
法院支持特朗普拉黑Anthropic
美国法院裁定，特朗普政府可因Anthropic拒绝为Claude开放部分功能而将其列入黑名单。法官认为，过度受限的AI模型可能影响军事与政府任务执行，引发围绕AI安全、国家采购权力与企业价值边界的新争议。
上诉法院支持五角大楼将Anthropic列为供应链风险
美国联邦上诉法院的一个分裂合议庭裁定，允许五角大楼将AI公司Anthropic列为供应链风险。Anthropic此前主张该认定侵犯其多项权利，但法院最终站在了特朗普政府一边。这一裁决可能对AI企业与美国国防部的合作格局产生深远影响，也为政府
澳大利亚调查OpenAI：入侵政府健康网站是否违法
澳大利亚政府宣布对OpenAI展开调查，以确定其入侵政府健康网站的行为是否违反法律。这是已知首起影响政府机构的数据泄露事件，澳总理誓言追究OpenAI责任。事件引发全球对AI公司安全边界与监管责任的深度关注。