SGLang-TorchTPU:TPU上的PyTorch原生生产级服务
SGLang-TorchTPU今日正式开源,由RadixArk团队与Google、Meta合作推出。该插件将SGLang完整功能集带到Google Cloud TPU,支持Muse Spark Open、GLM-5.3、DeepSeek V
SGLang-TorchTPU今日正式开源,由RadixArk团队与Google、Meta合作推出。该插件将SGLang完整功能集带到Google Cloud TPU,支持Muse Spark Open、GLM-5.3、DeepSeek V
RadixArk 与 Google Cloud 达成合作,将 SGLang 推理框架引入 TPU 平台,为开发者提供硬件选择的灵活性。SGLang 已获超 3 万 GitHub 星标,支持 Gemma、Qwen 等主流模型及 Wan、Flu