测评 用 SGLang 扩展 JEV-like 决策模型 本文探讨如何利用 SGLang 高效服务 JEV-like 决策模型。通过点式与集合式提示设计，结合 Score API 与 MIS 执行优化，显著降低多候选决策的尾延迟。基准测试显示，在 Qwen3 系列模型上，MIS 在高负载下将 p9 LMSYS SGLang JEV决策模型 LLM服务优化 5小时前 42
