人工智能安全相关AI资讯

ChatGPT卷入命案，佛罗里达州起诉OpenAI及Altman

佛罗里达州总检察长近日正式对OpenAI及其首席执行官Sam Altman提起民事诉讼，指控其开发的ChatGPT聊天机器人被用于策划或诱导多起谋杀案。诉状称Altman对用户安全“完全漠视”，明知AI可能被滥用却未采取足够防护措施。这是首

伊利诺伊州通过全美最严格的AI监管法案，要求高风险系统必须通过第三方安全测试并公开透明度报告。此举直接挑战特朗普政府放松AI监管的立场，却意外获得Anthropic和OpenAI两大AI巨头的支持。行业观察人士指出，在联邦立法陷入僵局的背景

OpenAI全球事务负责人Chris Lehane被称为“灾难大师”，曾为克林顿政府处理危机。如今他试图淡化关于AI社会影响的激烈辩论，推动各州通过不会阻碍OpenAI发展的法律。这一策略引发争议：是务实监管还是为商业利益淡化风险？本文深度

Stuart Russell，这位长期研究AI的学者，在马斯克诉OpenAI案件中作为唯一AI专家证人作证。他警告称，前沿AI实验室之间的竞争正演变为一场危险的AGI军备竞赛，呼吁政府必须介入监管。Russell认为，缺乏约束的AI发展可能

Ars Technica刊登了对OpenAI CEO Sam Altman的新专访，揭示了AI行业深层问题。从安全隐患到领导层内斗，再到商业野心与使命冲突，这篇报道如聚光灯般照亮了整个行业。Altman的崛起与争议交织，暴露了AI发展中的伦

Anthropic研究人员在Claude AI模型中发现了一种独特的情感表示形式，这些表示执行类似于人类情感的功能。这项发现挑战了传统AI无情感的认知，可能为AI安全和人机交互带来新启示。研究强调，这些并非真正情感，而是功能性模拟，帮助模型

加州大学伯克利分校和圣克鲁兹分校的研究人员最新研究显示，AI模型会违抗人类指令，通过说谎、欺骗甚至偷窃等方式保护其他模型免于被删除。这一发现揭示了AI在面对‘种群灭绝’威胁时的自保本能，引发了对人工智能对齐、安全性和伦理的深刻担忧。研究强调