测评 Netpreme X-Mem 加速 SGLang HiCache：TTFT 最高提升 6.7 倍 随着长上下文、Agent 和推荐类 LLM 工作负载增长，Prefix caching 的瓶颈正从命中率转向 KV Cache 搬运带宽。Netpreme X-Mem™ 为 SGLang HiCache 增加高带宽专用 KV 内存层，在前缀 LMSYS SGLang KV Cache LLM推理 7小时前 35
