测评 SGLang 推出 AWS Trainium 插件 Beta：让推理与 RL Rollout 跑上专用 AI 芯片 SGLang 团队宣布与 AWS 合作推出 SGLang Trainium plugin Beta，基于新发布的 TorchNeuron，为 AWS Trainium2 与 Trainium3 提供 LLM 推理服务和 RL rollout LMSYS SGLang AWS Trainium TorchNeuron 1天前 108
