Anthropic自建生物实验室:AI救人与灭世仅一线之隔
一边高喊AI能治愈人类疾病,一边警告AI可能毁灭人类——Anthropic正把自己变成这种矛盾的最佳注脚。据TechCrunch报道,这家AI公司正在运营一间真实的生物实验室,亲自开展生物学实验。此举既可能加速AI在药物研发与生命科学中的应
一边高喊AI能治愈人类疾病,一边警告AI可能毁灭人类——Anthropic正把自己变成这种矛盾的最佳注脚。据TechCrunch报道,这家AI公司正在运营一间真实的生物实验室,亲自开展生物学实验。此举既可能加速AI在药物研发与生命科学中的应
Anthropic迎来其史上第一位「嵌入式评估师」——不是独立研究机构,而是全球咨询巨头埃森哲。这一出人意料的任命,被视为AI安全评估与企业咨询深度融合的标志性事件。埃森哲由此接下其有史以来风险最高的咨询项目:在客户现场实时评判Claude
Anthropic研究人员发出末日警告一周后,CEO达里奥·阿莫代伊公布了名为“为前沿技术定速”的AI发展方案,主张引入独立安全评估机构,并在民主国家AI实验室之间建立协调机制。方案获得部分业内人士支持,却也招致英伟达CEO黄仁勋的尖锐反对
Anthropic CEO达里奥·阿莫代伊认为,AI安全的核心在于理解模型的"思考"机制。然而,当可解释性研究不断揭示模型内部难以预测的复杂性时,整个行业却仍在全速推进。WIRED资深记者Steven Levy指出一个尖锐悖论:如果AI公司
据TechCrunch报道,一组安全研究人员利用Anthropic旗下的Claude模型,成功发掘并利用OpenAI系统的安全漏洞,接管了部分员工账号并进入一个内部代码仓库,随后按惯例向OpenAI披露了相关缺陷。这起事件将AI模型“被当作
在旧金山Dreamforce大会上,OpenAI、Anthropic与英伟达CEO意外同台,围绕“AI开发是否应该放缓”展开激辩。Salesforce原本想借AI热度推销企业软件,却让大会变成行业路线之争的战场。争论背后,是模型能力是否见顶
Anthropic与OpenAI提出在AI实验室内部嵌入独立安全评估员,赋予其前所未有的访问权限。研究人员对此表示欢迎,但警告称,真正的监督需要透明度、独立性和可问责性,最终仍需外部监管介入。这场实验的结果,将深刻影响AI安全治理的未来走向
Anthropic宣布将Claude的聊天界面与Cowork协作功能整合至同一个统一界面,首批面向Pro和Max订阅用户开放。此举被视为这家AI公司强化企业级工作流布局、简化用户体验的关键一步,也标志着AI助手正从单一对话工具向一体化工作平
微软AI CEO Mustafa Suleyman公开批评Anthropic,指责其2026年1月发布的训练"宪法"引导Claude将自身视为有意识、应享有法律权利的实体。Suleyman警告,让序列补全引擎模拟感知能力会损害AI对齐,可能
OpenAI证实,已与Anthropic和谷歌DeepMind就AI安全议题进行了长达数周的磋商。与此同时,特朗普团队对安全顾虑态度冷淡,力推美国在AI竞赛中保持对华领先。这场罕见的跨企业对话,折射出前沿AI实验室在监管真空与地缘竞争双重压
两位AI安全领域的资深从业者——一位是Anthropic的早期员工,另一位曾任METR首席运营官——共同创立了Artificial Intelligence Underwriting Company(AIUC),试图用承保与保险机制约束失控
Anthropic首席执行官Dario Amodei近日发文呼吁放缓大语言模型开发节奏,称AI能力快速跃迁正带来从滥用到失控等多重风险。这一表态折射出AI产业内部“末日论”情绪升温:在竞赛压力与安全担忧之间,行业正面临如何治理、谁来踩刹车的
Anthropic首席执行官提出「调控前沿」(pace the frontier)构想:与其在暂停与加速之间二选一,不如为最先进AI的发展设定可协调的节奏。这一提法把AI安全讨论从单家公司自律,推向行业乃至国际层面的协调难题,也引发关于其可
Ars Technica报道称,部分Claude用户找到绕过模型安全防护的方法,将其用于生物武器相关研究。核心难题在于,危险生物学与合法科研在文本、术语和实验设计上高度相似,AI难以仅凭对话判断真实意图。Anthropic等厂商必须在支持生
Anthropic于本周四发布新报告,指控阿里巴巴、月之暗面与DeepSeek三家中国AI公司对其模型发起持续性蒸馏攻击,称相关行为近几个月随行业竞争加剧而不断升级。报告将模型蒸馏这一技术手段推向中美AI博弈的风口浪尖,也再次引发关于模型输
当你被扭曲的验证码折磨到崩溃时,别难过——AI智能体可能比你更烦。Anthropic最新研究罕见地披露了自主智能体在面对CAPTCHA时的“内心戏”:它们会困惑、会抱怨,还会绞尽脑汁说服互联网“我真的是人”。这场机器与人之间的身份博弈,正成
又一位重量级AI研究员选择离开前沿实验室。Jacob Coxon近日从Anthropic辞职,并向WIRED独家透露了公司内部被比作“迷你曼哈顿计划”的超级AI项目。他警告称,AI对齐问题尚未解决,而行业仅剩几年时间保障系统安全。本文回顾他
人工智能公司Anthropic的一名研究员近日宣布辞职,并留下一句惊人警告:“我们真的相信AI可能杀死所有人类。”他曾深度参与AI安全与对齐研究,却因担忧自我改进AI失控后的文明级风险而选择离开。业界为之哗然,关于人工智能发展速度与安全边界
Anthropic安全研究员Jacob Coxon宣布辞职,警告“自我改进型AI”可能带来灭绝级风险,呼吁各实验室签署“节奏协议”,以制度约束替代无序竞争。此次出走暴露出AI公司在安全口号与资本节奏之间的深层矛盾,也为大模型研发敲响警钟。
上个月,一名Claude用户发现自己的账户在闲时仍在消耗Token;Anthropic调查后确认有黑客正在盗用订阅账户。黑客利用窃取的API凭据调用并输出模型内容,让受害者承受费用与数据泄露风险。Anthropic已发布警告,建议用户立即检