低精度RL 相关资讯

迈向Blackwell原生8/4位RL：Miles端到端MXFP8与NVFP4实践

本文介绍了Miles团队在Blackwell架构上实现的两种原生低精度RL方案：端到端MXFP8与MoE专家per-token NVFP4。通过从checkpoint转换、Megatron训练、SGLang rollout到实时权重更新的全