DSpark 相关资讯

DSpark接入SGLang：用置信度驱动可变长度验证

DSpark 将半自回归 block drafter 与基于置信度的可变验证窗口结合，缓解 Speculative Decoding 在高并发下验证成本膨胀的问题。SGLang 已支持该机制，并通过 ragged CUDA graph、ov