测评 HPC-Ops × SGLang:腾讯混元高性能 Attention、Router GEMM 与 MoE 内核 HPC-Ops 是腾讯混元大规模生产推理中使用的开源算子库,其核心的 Dynamic Attention 和 Fused MoE 算子显著提升了模型性能,最高可将 Hy3 模型的 TPOT 降低 48.8%。本文详细介绍 HPC-Ops 中 LMSYS AI推理优化 MoE算子 SGLang集成 6小时前 42