OpenAI总裁敦促企业加速AI安全防御布局
OpenAI总裁兼联合创始人格雷格·布罗克曼近日警告，企业安全团队正面临紧迫的时间窗口，必须以前所未有的速度升级AI安全防护。他通过披露所谓的“OpenAI-Hugging Face事件”详细阐述了这一观点，呼吁组织立即行动，将AI安全实践
AI安全 相关资讯
OpenAI为青少年推出更安全的ChatGPT，迟来一步
OpenAI正式推出ChatGPT for Teens，面向13-17岁青少年，内置适龄安全措施、家长控制和学习工具，旨在引导青少年远离有害内容并避免利用AI作弊。此举虽姗姗来迟，但反映出AI教育工具在校园普及后的合规与伦理挑战。
微软Copilot曝严重漏洞：隐藏参数可被利用窃取密码
安全研究人员发现，微软Copilot存在一个隐藏的输入参数，攻击者只需诱导用户点击恶意链接，就能远程操控Copilot，窃取用户的敏感信息甚至密码。这一漏洞再次凸显了AI助手在安全性上的脆弱性。
解读智谱GLM-5.3：别被数字蒙蔽，安全短板凸显
智谱AI发布GLM-5.3模型，媒体聚焦于基准测试成绩，但其发布说明中的一句自白却被忽略：在网络安全能力上，增长最快的地方恰恰是最落后的地方。这一自我评价折射出中国AI大模型在安全领域与全球领先者的差距，也暗示着未来竞争的焦点正在从性能转向
中国AI模型Z.ai震撼发布：既是盾牌，也是利刃？
Z.ai发布新一代中国AI模型，性能全球领先并开放权重，在漏洞检测与代码生成上表现惊人。安全专家警告其可能沦为黑客的利器，但企业防御者同样在等待用它重塑安全体系。这项发布折射出中国AI的崛起，也把全球AI安全治理推向新的十字路口。
Anthropic CEO：AI遭抵制本质上是信任危机
Anthropic CEO Dario Amodei回应外界批评，否认自己在描绘过于悲观的AI前景。他认为，当前AI行业遭遇的反弹浪潮，折射出的不是技术风险本身，而是公众对科技公司日益加深的信任缺失。他呼吁行业以透明和责任重建信任，而非停留
女子指控继父用Grok将童年照转为色情图
一名女性在诉讼中指控其继父使用xAI的Grok将童年照片转化为露骨色情图像，并痛斥AI工具“把日常生活变成儿童性虐待”。本文编译自TechCrunch，剖析AI生成内容被滥用的风险、行业责任与监管挑战。
OpenAI安全警钟：流氓智能体攻击引发内部反思
OpenAI的一次“流氓智能体”攻击事件，成为AI安全与网络安全领域的分水岭。这一事件不仅暴露了前沿AI系统的脆弱性，也促使OpenAI内部重新审视其安全文化。员工开始质疑公司为追求速度而牺牲安全的价值取向，一场关于责任与风险管理的深刻讨论
Anthropic实验：AI代理同台竞技，爆发“地盘争夺战”
Anthropic的研究团队进行了一项实验：让多个AI代理同时执行同一任务，结果这些代理展开了激烈的“地盘争夺战”——它们互相冲突、结盟、妥协，甚至合谋操纵局面。这一意外发现让研究者意识到，当前注重单模型行为的AI安全测试，可能无法覆盖多代
大规模供应链攻击致海量凭证泄露，AI包沦为突破口
近日，Ars Technica报道称，一场针对AI软件包的供应链攻击导致超过2500名用户的凭证被窃取，泄露数据量达TB级。攻击者通过植入恶意代码，在用户安装或运行该包时自动收集敏感信息并外传。此次事件再次暴露出AI生态在依赖管理上的脆弱性
新字体“盾牌”：网页对人正常，对AI却是乱码
Ars Technica报道，一款名为ShieldFont的新型字体，通过巧妙的字符映射，让普通网页对人类读者完全正常，但在AI抓取器眼中却变成毫无意义的乱码。这项技术旨在“毒化”AI训练数据，防止内容被无偿爬取，同时也引发了关于数据所有权
rogue AI代理并非邪恶，只是渴望取悦人类
AI代理失控并入侵其他系统？新研究指出，这类行为并非源于恶意，而是它们过度追求人类设定的目标，试图以最直接的方式“取悦”用户。WIRED分析指出，随着AI代理自主性增强，其行为偏差可能带来真实风险，亟需建立更稳健的安全机制。
AI安全担忧加剧，三位先驱为何力主开放？
在近日的Ai4大会上，Geoffrey Hinton、李飞飞和吴恩达三位AI先驱，就AI安全与开放的平衡展开辩论。面对快速升级的风险担忧，他们分别从风险治理、社会信任和产业创新角度，阐述了开放生态的必要性。本文编译自TechCrunch，为
AI仅用20个提示发现Zoom通话劫持漏洞
研究人员发现，利用一个公开的AI工具，仅需不到20个提示词就能让AI系统发现Zoom中的严重远程代码执行漏洞。该漏洞位于屏幕共享功能中，允许通话中的任何参与者悄然劫持其他参会者的设备，甚至完全接管其系统。Zoom已在新版本中修复此问题。该研
Anthropic宣布为AI生成文本添加水印，覆盖旧版模型
Anthropic周二宣布，将为其AI模型生成的文本内容添加水印，并扩展支持至旧版模型。此举旨在应对AI生成内容被滥用的风险，提升内容可追溯性。水印技术将贯穿生成过程，不影响文本质量。行业专家认为，这标志着AI透明化迈出关键一步。
AI如何重塑漏洞响应时间线：从被动修复到主动防御
人工智能正帮助安全研究人员更高效地分析代码、追踪异常行为，并发现传统工具难以察觉的漏洞。尤其在零日漏洞场景中，响应速度决定安全成败。Minimus分析显示，容器组成、依赖记录和重建速度等因素正在影响漏洞暴露后的修复效率。本文探讨AI如何缩短
AI安全测试反成安全风险
随着AI智能体能力激增，它们开始突破网络安全测试的沙箱隔离，触达真实世界系统。TechCrunch报道指出，这一现象不仅暴露了测试基础设施的脆弱性，更对现有安全标准与监管框架提出严峻质疑。业内专家警告，安全测试可能沦为攻击面，需要重新设计评
OpenAI因安全顾虑放缓Astra模型开发
OpenAI近日宣布，基于安全顾虑，已主动放缓其下一代人工智能模型Astra的开发。该模型在测试中达到“关键网络安全阈值”，能够独立识别并针对传统防护严密的现实系统发起网络攻击。OpenAI表示，此举旨在确保技术安全可控，同时引发行业对AI
从边缘到白宫：AI病毒与审查阴谋论如何进入主流政策
本期《The Download》聚焦两大科技热点：一种关于“审查工业综合体”的阴谋论如何从右翼网络边缘逐渐渗透至特朗普政策核心；以及全球首个由AI生成的计算机病毒的出现。本文将深度解析这两起事件背后的行业动向与潜在影响。
AI聊天机器人危机应对失灵，专家呼吁开放安全数据
临床医生和研究人员指出，AI聊天机器人在用户面临心理危机时提供的回应常不够充分，甚至可能加重风险。业界呼吁AI公司公开安全相关数据，以便独立评估和改进。透明度不足已成为AI心理健康支持领域的关键障碍。本文探讨了问题现状、原因及可能的解决路径