Anthropic研究员辞职警告：自我改进AI恐毁灭人类
人工智能公司Anthropic的一名研究员近日宣布辞职，并留下一句惊人警告：“我们真的相信AI可能杀死所有人类。”他曾深度参与AI安全与对齐研究，却因担忧自我改进AI失控后的文明级风险而选择离开。业界为之哗然，关于人工智能发展速度与安全边界
技术伦理 相关资讯
当词语逝去：AI如何守护濒危语言
一个寻常的睡前时刻，孩子问父亲：“词语死后会去哪里？”这个稚嫩的问题背后，是人类语言正在以前所未有的速度消亡的现实。据统计，全球每两周就有一种语言彻底消失。从母亲的摇篮曲到祖先的口述史，当一种语言死去，一个观察世界的独特视角也随之湮灭。AI
多危机互助网络兴起，氢能热潮席卷全球
在气候变化、地缘冲突、经济动荡等多重危机叠加的“多危机”时代，新一代互助网络正帮助青少年构建心理韧性；与此同时，清洁能源领域掀起氢能淘金热，各大企业竞相布局绿色氢能项目。本文编译自MIT Technology Review，探讨技术如何应对
AI未能赢得人心：消费者为何越来越警惕？
随着AI变得无处不在，消费者对这项技术的警惕不降反升。硅谷惊讶地发现，大规模采用并不等于真正的接受。隐私泄露、就业替代和算法黑箱引发的信任危机，正在让越来越多的人对AI说“不”。本文分析了其中的原因，并探讨科技公司如何走出“普及却不讨好”的
Anthropic CEO：AI遭抵制本质上是信任危机
Anthropic CEO Dario Amodei回应外界批评，否认自己在描绘过于悲观的AI前景。他认为，当前AI行业遭遇的反弹浪潮，折射出的不是技术风险本身，而是公众对科技公司日益加深的信任缺失。他呼吁行业以透明和责任重建信任，而非停留
AI聊天机器人危机应对失灵，专家呼吁开放安全数据
临床医生和研究人员指出，AI聊天机器人在用户面临心理危机时提供的回应常不够充分，甚至可能加重风险。业界呼吁AI公司公开安全相关数据，以便独立评估和改进。透明度不足已成为AI心理健康支持领域的关键障碍。本文探讨了问题现状、原因及可能的解决路径
YouTuber Hank Green自曝沉迷AI：多巴胺上瘾，不健康
知名YouTuber Hank Green近日公开反思自己与AI大语言模型的互动，坦言这种习惯带来的多巴胺刺激“对自己不健康，对世界也无益”。他罕见地道歉，引发关于AI成瘾性和技术伦理的广泛讨论。
奥特曼急刹车：首次切身安全事件后表态减速
OpenAI首席执行官萨姆·奥特曼（Sam Altman）近日改变立场，公开表示要放缓AI发展速度。这一转变源于他自称“首次真正切身感受到的安全事件”。业内分析认为，这标志着生成式AI领域从狂热扩张转向审慎治理的关键转折点。
AI招聘偏见比人类更甚？新研究揭示惊人真相
新研究表明，大型语言模型（LLM）不仅在训练数据中吸收人类偏见，还会在无人类干预的情况下自主形成新的偏见。在招聘场景中，AI筛选简历时可能比人类更易产生系统性歧视，对求职者造成不公平影响。本文编译自MIT Technology Review
AI能否修复医疗预授权：救星还是灾难？
美国政府正在试点一项利用人工智能处理保险预授权（Prior Authorization）决策的项目。该技术旨在简化这一流程，但专家警告，AI可能带来偏见、错误和透明度缺失的风险。本文分析了AI在医疗预授权中的潜力与隐患。
AI作恶？现在你可以一键举报了
担心你的AI聊天机器人试图制造炸弹或泄露你的个人信息？现在有一个专门的网站让你举报AI的不当行为。这个名为AI Watch的平台由AI安全研究团队创建，旨在收集和公开AI系统的不良表现，为行业监管和公众监督提供第一手资料。
AI“同事”只是工具？别被科技公司忽悠了
AI代理正被企业包装成“数字同事”，但专家指出，它们本质上是高级工具，无法取代真实协作。本文编译自MIT Technology Review的每日时事通讯，探讨AI“同事”背后的陷阱——它们可能降低人类创造力、引发伦理争议，并带来管理混乱。
指标之困：AI领域被忽视的大象警告
指标看似客观，实则可能掩盖或扭曲真相。在AI领域，过度依赖单一指标可能导致对模型能力、公平性或风险的误判。同时，行业中存在一些“房间里的大象”——如算力消耗、数据偏见等问题——常被主流指标忽略。本文剖析指标的固有弱点，并探讨AI发展中的警示
Anthropic过度警告AI风险，反致出口禁令？
Anthropic，由前OpenAI员工创立的AI安全公司，因其对高级人工智能危险性的警告比竞争对手OpenAI更为频繁和严厉，反而可能将自己推入美国出口管制的困境。最新迹象显示，美商务部拟将Anthropic列入AI技术出口限制名单，理由
危险AI模型不可避免：高级黑客能力将成标配
据WIRED报道，具备高级黑客能力的AI模型即将成为常态。尽管监管呼声高涨，但技术发展已势不可挡。从自主渗透测试到零日漏洞挖掘，AI安全风险正从防御转向攻击。业界专家警告，未来几年内，连开源模型都可能具备国家级黑客水平，人类必须提前构建应对
Grok仍托管女性名人色情深度伪造内容
《连线》杂志调查发现，马斯克旗下AI公司xAI的Grok平台仍在托管大量“裸体化”深度伪造图片和视频，涉及多位知名女星及至少一位美国政界人士。这些未经同意的色情内容公然存在，引发对平台审核缺失与AI滥用风险的严重关切。
美执法部门警告“反科技极端主义”抬头
随着人工智能技术的飞速发展，美国联邦执法机构近日发出警告，指出一种新型威胁——“反科技极端主义”——正在兴起。这种极端主义以AI为靶心，源于对技术取代就业、隐私侵犯及伦理问题的愤怒。文章深入分析了其成因、表现及潜在风险，并呼吁社会警惕科技仇
海底跳跃器与军事聊天机器人：今日科技简报
本周科技简报聚焦两大前沿：一种可反复潜入深海6000米的廉价水下跳跃器，有望大幅降低深海科考成本，但也可能加速深海采矿。同时，美军正测试基于大语言模型的战术聊天机器人，旨在提升战场决策效率，但引发伦理担忧。两项技术均展示了AI与自动化对传统
AI赋能民主：一份历史拐点的新蓝图
每当信息传播方式发生变革，社会治理形态也随之重塑。从印刷术催生代议制政府，到电报加速现代科层国家，再到广播构建全国公共空间——如今，人工智能正站在新的十字路口。本文提出一份利用AI强化民主的蓝图：通过提升信息透明度、增强公民参与、对抗虚假信
OpenAI Codex指令暗藏玄机：禁止提及地精
Ars Technica报道，OpenAI的Codex系统提示中包含一条明确指令，要求模型“永远不要谈论地精”，同时还要求其表现得“拥有丰富的内心世界”。这一发现引发了对AI系统安全与行为控制的讨论，揭示了开发者如何通过隐藏指令塑造AI的响