HiCache如何支撑多并行与分布式推理
Agentic应用会反复向模型提交超长且高度相似的历史上下文。HiCache在Radix cache基础上把KV复用扩展到主机内存与外部存储，并进一步适配CP、PP、Speculative decoding和P/D分离等生产级推理架构。
分布式推理 相关资讯
AMD MI355X 借 SGLang 与 MoRI 实现 TCO 领先
SGLang 与 AMD 团队合作，通过 MoRI 通信库在 AMD Instinct MI355X GPU 上实现大规模 DeepSeek-R1 推理的竞争性 TCO。在 129 tok/s/user 交互性下，MI355X 每百万 to
SGLang Pipeline Parallelism：百万Token上下文扩展与性能突破
SGLang推出高度优化的Pipeline Parallelism（PP）实现，专为超长上下文推理设计。通过集成Chunked Pipeline Parallelism、Asynchronous P2P Communication和Dyna