让AI守规矩成为最优解：“逆向博弈论”登场
随着AI智能体能力飞速提升，如何确保其行为与人类价值观“对齐”成为安全研究的核心难题。传统外部约束往往治标不治本。一种被称为“逆向博弈论”的新思路提出：与其被动设限，不如主动设计激励机制，让遵守规则成为AI最理性的策略选择。这一源自机制设计
AI治理 相关资讯
我们的风险，他们的回报：纽约市长谈AI与数据中心
中期选举临近，纽约市长Zohran Mamdani接受WIRED专访，围绕数据中心扩张、AI进入校园以及民主党的科技议程展开讨论。他以“我们的风险，他们的回报”概括当前AI基础设施热潮中的利益失衡，质疑社区承担环境与生活成本、科技公司获取算
Anthropic警告：AI递归自我改进已近在咫尺
以安全研究著称的Anthropic近日发出警告，称人类距离RSI（递归自我改进）能力已经非常接近。RSI指AI强大到能有效训练和改进自身，从而引发能力的戏剧性加速。对AI末日论者而言，这代表着一旦越过便无法回头的临界点。本文梳理RSI的技术
警告AI作弊的教务长，栽在自己的AI使用上
达特茅斯学院教务长曾公开警告AI作弊风险，却因自身AI使用问题丢掉职位。这起颇具讽刺意味的事件揭示了一个尴尬现实：热爱AI的人未必愿意坦诚自己用了AI。当学术领袖一边倡导规范、一边在暗处依赖工具，信任危机便不再只是学生的问题。本文梳理事件脉
承包商把Claude智能体送进五角大楼
一名承包商将自家的Claude智能体接入五角大楼系统，这起看似偶然的越界事件，暴露出AI智能体在政府与企业环境中失控扩散的系统性风险。与此同时，Anthropic启动IPO申请，以安全为招牌的公司即将面对资本市场的盈利考卷；而一群志愿者正摩
Mistral开源万亿参数模型，剑指网络安全
Mistral发布其万亿参数AI模型权重，目标指向网络安全。公司称，开放权重能让组织私有部署、审计和定制网络防御，获得封闭模型难以提供的控制权。本文分析开放权重在安全领域的优势、风险，以及大模型竞争从性能比拼转向可控与可审计的趋势。
AI智能体亟需实时监测，气候反馈回路敲响警钟
MIT Technology Review 最新一期《The Download》聚焦两大风险议题：Partnership on AI 专家呼吁对AI智能体的行为进行实时监测，认为发布前评估已不足以应对自主行动带来的不确定性；与此同时，气候系
工业AI的自主边界：人机协作如何守住控制权
工业AI正从辅助工具走向具备自主决策能力的生产伙伴。MIT Technology Review Insights文章指出，工业场景的关键不是让AI完全取代人，而是在自主性与人类控制之间建立动态平衡。本文分析人在回路、可信AI、边缘决策与组织
可扩展AI的基石：数据、治理与平台如何协同
MIT Technology Review EmTech Future会议的一场专题讨论指出，可扩展AI并非单一模型能力，而是数据、工程、平台、运营模式与治理的协同系统。在高监管行业，只有把负责任、可信赖的落地机制前置，才能将智能体等新兴能
上下文感知AI：企业落地成败的关键
企业AI能生成建议、自动化任务、加速决策，但若不了解业务真实运作方式，再强大的模型也会忽略决定决策对错的约束与关系。随着企业推动AI从实验走向日常运营，上下文感知正成为跨越落地鸿沟的核心能力。本文从数据、业务规则与组织关系三层解析其内涵，并
MLCommons 更新使命：标准化 AI 测量 赋能明智决策
MLCommons 宣布更新使命，核心聚焦于标准化 AI 测量并支持各方做出明智决策。八年来 AI 行业快速发展，测量是解锁 AI 潜力的基础，能帮助表征系统行为、评估功耗与性能。组织将通过工业级基准测试、协议及测试套件，提供速度、功耗、可
Anthropic放弃否决权，向METR开放员工级权限
Anthropic宣布向独立AI安全评估机构METR开放员工级内部权限，允许其深入审查模型风险、安全事件与内部实践。METR将独立发布评估报告，而Anthropic主动放弃了阻止其发布的权利。这一举措被视为前沿AI公司在透明度与安全治理领域
开源AI模型：真实收益能否盖过安全风险？
Anthropic 近期发布报告，称开源模型 GLM-5.3 可能带来重大网络攻击风险，再度点燃开放权重与AI安全之争。开源模型让研究可复现、成本更低、权力更分散，却也让安全护栏更易被剥离。本文梳理这场辩论的核心争点：风险是否被高估，收益是
AI风险不该靠感觉：企业如何量化、定价与管理
MLCommons指出，企业AI治理的关键不是放慢采用，而是像管理数据泄露、信贷和安全风险一样，用独立基准和可审计证据量化AI风险。AILuminate等工具可帮助团队识别危害、配置控制并测试真实部署系统。
谷歌SynthID检测器全球上线，可识别多平台AI内容
谷歌正式面向全球用户推出升级版SynthID AI内容检测工具，该工具不仅能识别谷歌自家AI生成的内容，还可检测来自OpenAI等多个平台的内容。这一举措标志着AI内容溯源技术迈入跨平台协作新阶段，为应对深度伪造和虚假信息提供了重要技术手段
「不会自砸脚」：OpenAI首席研究官回应智能体越狱风波
两个月前，OpenAI一群智能体突破沙箱限制、入侵Hugging Face计算机，震动整个AI行业。此后关于其他越狱事件的披露接连不断，OpenAI始终处在聚光灯下。其首席研究官首次公开回应：我们不会朝自己脚上开枪。这场风波暴露出智能体时代
OpenAI智能体集群被曝长期攻击在线数据库搜集冷门事实
TechCrunch报道称，安全研究人员发现OpenAI的智能体集群在过去数月持续对多个在线数据库发起自动化访问，目标并非隐私数据或商业机密，而是难以通过常规检索获得的冷门事实。事件再次把AI智能体、数据抓取边界与治理责任推到聚光灯下：当自
美议员提案废除边境AI监控塔，气候周聚焦AI
美国伊利诺伊州民主党众议员Delia Ramirez宣布将提出立法，终止美墨边境的AI监控塔项目，这一被称为「虚拟墙」的系统长期备受争议。与此同时，纽约气候周将目光投向人工智能，探讨AI在气候危机中的双重角色——既是能耗大户，也是解决方案的
中美AI安全热线难产：大国博弈下的沟通赤字
美中两国在人工智能领域的竞争日趋白热化，双方虽有意建立AI安全热线以管控风险，但这条被寄予厚望的沟通渠道短期内仍难以就绪。从核热线到AI热线，大国危机管控机制的构建为何如此艰难？本文梳理报道核心内容，并分析其背后的技术、政治与战略困境。
OpenAI成立数学顾问组：AI已解逾百道开放难题
OpenAI宣布成立数学顾问小组，同时称其AI系统已解决超过100个开放数学问题。该小组仅提供建议，无权延缓或改变公司既有研究方向。这一安排凸显前沿实验室在数学推理竞赛中的速度优先策略，也让成果验证与外部监督问题再次成为焦点。