SGLang与Miles在NVIDIA Vera Rubin上的优化实践
本文报道SGLang与Miles团队提前获得两台NVIDIA Vera Rubin节点（共8张GPU）的早期访问权限，并在该平台上完成推理与强化学习训练的适配。SGLang针对Kimi K3 NVFP4模型在注意力、MoE通信及KDA核函数
本文报道SGLang与Miles团队提前获得两台NVIDIA Vera Rubin节点（共8张GPU）的早期访问权限，并在该平台上完成推理与强化学习训练的适配。SGLang针对Kimi K3 NVFP4模型在注意力、MoE通信及KDA核函数
SGLang 与 Miles 携手 Moonshot AI 和 NVIDIA，为 2.8 万亿参数的 Kimi K3 模型提供 Day-0 支持。该混合架构融合 KDA 线性注意力与 MLA，带来全新内存管理、统一内存池及 DSpark 推