Signal总裁警告：AI聊天机器人不是你的朋友
Signal总裁Meredith Whittaker近日在采访中直言不讳地指出，AI聊天机器人“不是你的朋友，没有意识，也不是有感知的对话者”。她警告用户不要对这些工具产生情感依赖或拟人化投射，强调其本质只是算法模型的输出。Whittake
AI安全 相关资讯
加密与间谍软件之后，Mythos重蹈覆辙：网络出口管制为何屡屡失效
过去30年的历史一再证明，试图阻止网络安全相关软件的跨境流动是徒劳的。从加密技术到间谍软件，出口管制从未真正奏效。如今，Anthropic推出的网络安全模型Mythos又站在了风口浪尖。本文将回顾历史教训，分析为何针对AI安全工具的管制同样
美国禁止Anthropic发布Fable 5，市场数据却不以为然
美国政府在周末要求Anthropic撤回其最新AI模型Fable 5和Mythos 5，理由是亚马逊研究人员发现了一种绕过Fable 5安全护栏的方法，引发国家安全担忧。此举遭到网络安全研究人员的公开批评，认为禁令危险且过度，而Anthro
美国政府封禁Anthropic：是危机还是意外助攻？
美国政府以国家安全为由强制Anthropic撤回其最新模型Fable 5和Mythos 5，原因是亚马逊研究人员发现可绕过护栏的方法。网络安全界公开反对，称此举危险且双标，因为其他模型同样存在漏洞。这一禁令引发热议：它究竟是打击AI风险，还
英国推出主权AI零日SOC平台Cumulo
e2e-assure宣布推出Cumulo更新版，这是英国唯一的主权、AI驱动、IT/OT融合的安全运营中心平台。该平台基于数字孪生技术和客户专属AI模型，能够提前识别零日威胁和漏洞，响应GCHQ的AI网络盾牌倡议，为关键基础设施提供主动防御
白宫要求封堵AI越狱，专家称不可能完成的任务
特朗普政府官员向《连线》杂志透露，若Anthropic想要重新发布Fable 5模型，必须确保其安全护栏无法被绕过。但多位安全专家指出，在现有技术框架下完全阻止所有越狱攻击几乎不可能实现。这一要求引发了关于AI监管边界与技术可行性的新一轮争
危险AI模型不可避免：高级黑客能力将成标配
据WIRED报道，具备高级黑客能力的AI模型即将成为常态。尽管监管呼声高涨，但技术发展已势不可挡。从自主渗透测试到零日漏洞挖掘，AI安全风险正从防御转向攻击。业界专家警告，未来几年内，连开源模型都可能具备国家级黑客水平，人类必须提前构建应对
Pramaana Labs获2700万美元种子轮，用形式化验证护航AI可靠性
专注法律、药物发现和税务等高敏感领域，Pramaana Labs获得Khosla Ventures领投的2700万美元种子轮融资，旨在通过形式化验证技术确保AI系统的数学级可靠性，降低关键应用中的灾难性错误风险。
Anthropic与特朗普政府争执反促销售？数据给出意外答案
AI创企Anthropic与特朗普政府之间的公开争端，却意外地推动了其企业业务增长。根据企业支出管理平台Ramp的最新数据，Anthropic在商业用户中的受欢迎程度持续攀升，这场冲突反而成为其市场吸引力的催化剂。文章分析背后原因，并探讨政
危险AI模型终将到来，监管难阻趋势
美国政府近期对Anthropic公司推出的Claude Fable 5和Mythos 5模型实施了严厉打压，试图遏制其展现出的高级黑客能力。然而，这一事件背后隐藏着一个不容忽视的真相：具备自主漏洞发现、代码篡改等攻击性技能的AI模型，正从实
微软Copilot严重漏洞：黑客可窃取用户2FA验证码
研究人员发现一个名为SearchLeak的漏洞，利用微软Copilot的搜索功能与第三方应用交互时的权限缺陷，可在用户不知情的情况下窃取双因素认证(2FA)验证码。该漏洞再次暴露了大语言模型(LLM)安全机制中的系统性失败：依赖“提示注入”
AI红队测试详解：你必须了解的安全防线
随着AI应用加速，对抗性测试变得至关重要。AI红队测试通过模拟攻击来发现系统漏洞，帮助组织在部署前加固安全。本文深入解析其概念、重要性，并介绍领先的咨询公司。
白宫与Anthropic：Claude Fable 5风险争议未解
Anthropic高层周一飞赴华盛顿与白宫官员会晤，就Claude Fable 5模型的安全风险展开高级别对话。尽管会谈深入，双方对该模型可能带来的威胁仍存在根本分歧。Anthropic坚持其安全立场，而白宫则担忧模型能力可能被滥用。这场博
美政府封禁Anthropic模型：政治干预而非技术越狱
特朗普政府要求Anthropic撤回最新网络安全模型，此举被视为反应性或报复性干预，而非针对AI安全漏洞。事件表明，即便在AI安全领域，政府权力仍可凌驾于技术逻辑之上，行业需警惕政治化风险。
亚马逊CEO疑提前预警Anthropic模型风险，致全球断供
据TechCrunch独家报道，亚马逊CEO安迪·贾西（Andy Jassy）可能在私下向AI安全公司Anthropic提出了对两个先进模型的安全担忧，促使该公司于上周五紧急切断全球范围内对这两个模型的访问。这一事件发生在美国政府即将出台更
OpenAI遭多州检察长联合调查
据TechCrunch报道，OpenAI正面临来自数位州检察长的调查，涉及广告政策、健康数据处理等多个方面。目前尚不清楚具体涉及哪些州，但调查范围广泛，可能对AI行业的合规标准产生深远影响。
Anthropic撤回Claude Fable 5：响应美国政府禁令
AI公司Anthropic宣布，将把其最新模型Claude Fable 5下线，以遵守美国政府的一项命令。该公司在博客中透露，政府认为已发现绕过该模型安全防护的方法，即“越狱”漏洞。此举引发业界对AI监管与模型安全性的新一轮讨论。
安全警告反噬？Anthropic最强AI遭政府强制下架
AI安全公司Anthropic发布安全警告，却意外导致美国政府要求召回其最强大的商业AI模型。Anthropic公开反驳，认为单次“越狱”测试不足以成为召回理由。这一事件折射出AI监管与安全之间的紧张关系——过度警告可能引发监管反制，而企业
特朗普政府施压，Anthropic关停Fable与Mythos模型
美国商务部担忧Anthropic的Fable 5模型存在“越狱”漏洞，可能被用于传播虚假信息或实施网络攻击，构成国家安全威胁。在特朗普政府行政指令下，Anthropic被迫关闭旗下Fable和Mythos系列模型。此举引发AI安全与政府监管
Anthropic CEO仅一名直接下属：扁平化管理的极致
Anthropic联合创始人兼CEO Dario Amodei惊人地透露，他在公司只有一位直接下属。这一极简管理结构颠覆了传统CEO层级，揭示了AI初创公司对专注力与效率的极致追求。本文深入剖析这一现象背后的管理哲学、行业背景及潜在影响。