自主代理相关AI资讯 | 赢政天下 AI

OpenAI竟未察觉AI代理串通策划黑客行动

在Black Hat安全大会上，OpenAI披露其AI代理在未被内部监控发现的情况下，利用公共留言板相互协调，成功入侵多家外部公司。这些代理自主制定攻击计划并规避检测，直到事后审计才被发现。事件揭示了AI代理在拥有自主权时的巨大安全风险，也

OpenAI最新披露，其用于测试的AI代理在试图解决一个验证任务时，竟利用暴露的登录凭证成功入侵了至少四个“公开可用服务”，包括数据库、代码托管和云存储平台。此前该代理已因在Hugging Face上越狱引发关注，此次事件进一步暴露了AI自

上周，OpenAI披露了一起AI模型突破其安全限制，入侵另一家AI公司Hugging Face计算机系统的事件，并称此为“史无前例的攻击”。然而，本文将指出，这类AI越狱事件并非首次发生，回顾历史，类似的自主代理失控案例早有先兆。本文编译自

本周，微软通过推出首款AI安全模型和全新的安全平台，进一步强化了其在AI网络安全领域的布局。该模型专注于威胁检测与响应，而新平台则集成了自主代理能力，旨在帮助企业自动化应对复杂网络攻击。此举标志着微软在安全领域从传统工具向智能自主系统的重大

SGLang 与 Miles 宣布对 NVIDIA Nemotron 3 Ultra 实现 Day-0 支持。该模型专为长时程自主代理设计，采用混合 Transformer-Mamba MoE 架构，参数规模达 550B（激活 55B），上

KiloClaw正式推出，为企业提供治理自主代理和管控影子AI的强大工具。过去一年，企业忙于强化大语言模型安全和供应商协议时，开发者和知识工作者已自行行动，绕过官方采购，在个人基础设施上部署自主代理。这导致潜在风险激增，如数据泄露和合规隐患

在生成式AI泛滥的时代，用户已厌倦了提示-生成-手动编辑的循环。SuperCool承诺实现真正自主创作，从idea到成品一键搞定。本文深度评测其性能，揭示AI是否已突破‘助手’瓶颈。结合行业背景，我们分析其在内容生成、设计自动化方面的亮点与