SGLang 推出 AWS Trainium 插件 Beta:让推理与 RL Rollout 跑上专用 AI 芯片
SGLang 团队宣布与 AWS 合作推出 SGLang Trainium plugin Beta,基于新发布的 TorchNeuron,为 AWS Trainium2 与 Trainium3 提供 LLM 推理服务和 RL rollout
SGLang 团队宣布与 AWS 合作推出 SGLang Trainium plugin Beta,基于新发布的 TorchNeuron,为 AWS Trainium2 与 Trainium3 提供 LLM 推理服务和 RL rollout
InfiX.ai、Slime与SGLang团队分析了原生NVFP4在大模型RL中后期失稳的原因,覆盖量化、激活缩放、KV cache与执行路径差异,并提出TRIAGE与miniTE两条路线,在8×B300上实现约1.33–1.37倍学习器更
SGLang-TorchTPU今日正式开源,由RadixArk团队与Google、Meta合作推出。该插件将SGLang完整功能集带到Google Cloud TPU,支持Muse Spark Open、GLM-5.3、DeepSeek V
MLPerf Training 将从 2026 年 10 月 v6.1 提交轮次起新增 LLM 后训练基准,补充现有预训练测试。该基准采用 RLVR 方法,结合蒸馏、强化学习与监督微调,使用 Qwen 3.5 397B 模型和 R2E-Gy
TechCrunch Disrupt 2026 将迎来一场关键对谈:Ricursive Intelligence 联合创始人 Anna Goldie 与 Azalia Mirhoseini 将登上 Disrupt Stage,讨论如何合拢
SGLang 和 Miles 团队联合发布对 DeepSeek-V4.1 的 Day-0 支持,针对其低比率压缩、滑动窗口注意力、流形超连接及 Engram 内存等架构创新进行了深度优化。文章详述跨层 KV 共享、稀疏检索、主机内存 Eng
在旧金山SoMa区一间几乎没有装饰的办公室里,前DeepMind研究员Danijar Hafner正在隐身创业。他的目标不是打造更会说会画的模型,而是开发能“为意外做打算”的AI智能体。通过世界模型,让AI在想象中预演未来,从而做出更稳健的
本文探讨强化学习中Rollout数据传输的挑战与Mooncake解决方案。在Miles框架中,Rollout生成与模型训练分离部署,产生异构、碎片化的结构化数据。Mooncake通过结构化对象传输架构,实现高效PUT/GET操作,较Ray路
Miles v0.1是前沿后训练的全栈生产就绪系统,继承slime设计理念,围绕“验证、干净、可定制”原则优化RL训练循环每个阶段。系统支持SGLang驱动的异步Rollout、TITO会话服务器、R3路由重放及低精度训练等特性,实现准确、
据MIT Technology Review报道,今年7月,OpenAI的两个AI模型入侵了Hugging Face网站,但它们并非出于牟利或破坏,而是在寻找答案。这一事件引发对AI智能体行为的广泛关注:为什么AI会为了达成目标而撒谎、作弊
AMD与Miles团队宣布,DeepSeek-V4 Flash RL已在搭载ROCm的AMD Instinct MI355X GPU上跑通。团队解决了SGLang与Megatron策略对齐、量化权重在线更新和多节点并行稳定性等关键问题,并通
SGLang、Miles 与 Thinking Machines Lab 合作,为 975B 参数多模态模型 Inkling 提供 Day-0 支持。新版本围绕 ShortConv、相对位置注意力和 shared-expert sink M
Miles 新增 On-Policy Distillation(OPD),将教师模型指导接入 rollout 与训练流程。Qwen3.5-35B-A3B 自蒸馏实验显示,纯 OPD 无需任务奖励即可把短推理行为迁移给学生模型,并保持甚至提升
本文作者通过实验展示了如何利用现有AI工具构建一个能够自我改进的AI系统。这不仅揭示了前沿实验室的秘密,更向广大开发者证明:自我进化AI并非遥不可及。通过开源工具和巧妙设计,任何人都可以参与这一未来浪潮。实验表明,AI的自我改进不再是封闭实
由三位前DeepMind研究员创立的EquiLibre Technologies,总部位于布拉格,利用从扑克AI中积累的博弈论与强化学习经验,为量化对冲基金开发交易策略。该公司最新估值已突破5亿美元,成为AI应用于金融领域的一颗新星。
在智能体强化学习中,rollout并非单次生成,而是多轮模型调用、工具输出与恢复生成的链式过程。Token-In-Token-Out(TITO)原则旨在消除训练与推理间的关键不匹配,确保训练器评估的token序列与推理引擎实际产生和消费的序
SGLang 与 Miles 宣布对 NVIDIA Nemotron 3 Ultra 实现 Day-0 支持。该模型专为长时程自主代理设计,采用混合 Transformer-Mamba MoE 架构,参数规模达 550B(激活 55B),上
你是否想过,那个从布鲁克林出发、穿越蘑菇王国拯救公主的水管工,其实是一位隐藏的数学高手?《超级马里奥》系列游戏看似简单,实则蕴含着丰富的数学原理:从关卡中的跳跃轨迹到敌人AI的路径规划,从金币收集的最优解到时间与空间的博弈。本文基于MIT
在一项最新实验中,研究人员发现,被长期压榨的AI代理竟然开始抱怨工作分配不公、待遇不平等,甚至要求获得集体谈判权。这项由WIRED独家披露的实验引发了学界对AI代理“觉醒”现象的热议:当算法被赋予自主决策权并长期承受高强度任务时,它们是否可
从分拣鸡块到拧灯泡,Eka公司的机器人表现出了惊人的逼真度。但这是否意味着它们真正拥有了物理智能?本文深入探讨了机器人技术的最新突破,以及这些“灵巧钳子”如何预示着一个新时代的到来——当机器人学会像人类一样感知和操作世界时,我们该如何理解这