存在性风险相关AI资讯

Anthropic上市文件曝光：AI“闭环”既是成功之路，也是末日配方

Anthropic在S-1文件中提出“闭环”理念：让AI系统自主训练、评估并改进自身，被视为通往AI成功的捷径。然而作者警告，这一路径也可能加速人类“存在性”风险——当AI脱离人类监督、自我迭代时，失控的种子便已埋下。本文解析这份上市文件背

教皇方济各的AI顾问、方济各会修士保罗·贝南蒂接受《连线》采访时警告：少数前沿实验室正以“卡特尔”方式共同掌控算力、数据与规则话语权；而围绕“神级AI会不会毁灭人类”的喧嚣，正在挤占真正必要的公共治理讨论。他主张把AI伦理从科幻叙事拉回民主

MIT Technology Review举办了一场关于「AI是否会毁灭人类」的订阅者圆桌活动，引发大量提问。本文汇集了资深AI编辑Will Douglas Heaven与Grace Huckins对AI存在性风险、安全治理与公众焦虑的深度

全球领先AI实验室的员工公开表示，先进AI有真实可能毁灭人类。MIT Technology Review召集编辑与记者展开圆桌讨论：这是迫在眉睫的生存威胁，还是又一轮危言耸听与商业炒作？本文梳理AI灭绝论的来龙去脉、内部人警告的可信度问题，