智能体推理相关资讯

MLPerf Inference迈向智能体时代：新增多轮Agentic Inference基准

MLCommons提出Agentic Inference基准，将多轮智能体推理纳入MLPerf Endpoints框架。新基准覆盖编码助手与企业工作流两类真实轨迹，重点衡量长上下文、KV-cache复用、可变输出长度和闭环多轮依赖下的端到端