随着AI在各行业加速落地，企业和政府采购方关注的问题已经不再只是“芯片有多快”。他们更想知道：一个实际部署的AI服务能提供怎样的性能？在特定工作负载下成本是多少？运行过程中会消耗多少能源？自2018年以来，MLPerf一直是AI系统性能测量的重要标准，如今它正进一步扩展，以回答AI买家面临的更复杂问题。
MLCommons此次公布了两项关键进展。第一，MLPerf被选为欧盟AI Gigafactories招标中衡量训练与推理性能的基准；第二，MLPerf Endpoints v1.0正式开放提交，标志着MLPerf正在从传统基准测试迈向对真实AI服务性能、成本和能耗的标准化评估。
这两项更新指向同一个趋势：产业界、政府机构和AI采购方正在将开放、标准化、经过同行评审的测量结果，作为AI采用和采购决策的重要依据。
MLPerf成为欧盟AI Gigafactories招标性能标尺
今年7月，欧盟启动了AI Gigafactories招标计划，目标是建设最多7个大规模AI计算设施。该计划将获得欧盟及成员国最高100亿欧元资金支持，并预计带动超过300亿欧元总投资。
此次招标由EuroHPC Joint Undertaking与各国合同主管机构共同采购，投标截止日期为2026年11月12日。
招标文件明确将MLPerf列为衡量投标方技术性能的标准。投标方案将依据MLPerf Training v5.1和MLPerf Inference v5.1基准进行评分。
在训练与推理两套测试中，招标文件列出了多个来自MLPerf标准工作负载的模型，包括：
- 训练侧的大模型，如Flux.1和Llama；
- 推理侧模型，如Llama 3.1 405B、DeepSeek R1和SDXL 1.0。
欧盟要求投标方提交的性能信息，直接建立在MLPerf的标准指标之上，包括训练场景中的time-to-train，以及推理场景中的time to first token和time per output token。此外，投标方还需要补充提供加速器利用率等细节。
值得注意的是，投标方不仅要报告第一阶段交付能力的测试结果，还必须报告第二阶段扩展计划所对应的性能结果。这意味着欧盟不仅关注当前可交付能力，也关注未来扩容后的可验证性能。
对于涉及如此大规模公共资金的AI基础设施采购而言，采购团队需要可比较、可信赖的性能声明。MLCommons认为，开放且经过同行评审的结果，正是支撑这类决策的关键。
“MLPerf旨在帮助买家在部署AI能力时做出更明智的决策。我们很荣幸看到我们的工作能够为欧盟建设AI领导力、赋能公民和企业的未来提供指引。”——David Kanter，Head of MLPerf
MLPerf Endpoints v1.0开放提交
另一项重要进展是MLPerf Endpoints v1.0正式开放提交。与传统基准测试不同，MLPerf Endpoints测量的是AI被真实使用时的状态：应用通过实时API调用模型，测试系统本质上就是一个由Endpoints客户端通过标准接口访问的URL。
这种设计让采购方可以在同一标准下评估不同类型的服务提供方，包括硬件厂商、hyperscalers、neoclouds以及托管API服务商。无论底层是裸金属、托管云服务，还是容器化软件栈，都可以被放到同一框架下比较。
从单一峰值转向完整性能画像
MLPerf Endpoints并不只给出一个峰值性能数字，而是会在一系列负载条件下扫描系统表现，并输出完整的性能画像。结果覆盖多个维度：
- concurrency：并发能力；
- interactivity：以每用户每秒token数衡量的交互体验；
- system throughput：系统整体吞吐；
- time to first token在第90百分位下的表现，即TTFT P90。
这些指标有助于买家将经过验证的运行点，与自身应用场景和服务等级目标进行匹配。例如，对聊天机器人而言，TTFT P90可能直接影响用户感知延迟；而对批量生成任务而言，系统吞吐和成本结构可能更重要。
首次引入强制配置功耗测量
在MLPerf系列中，Endpoints 1.0首次引入mandatory provisioned power measurement，即强制要求测量配置功耗。这体现了MLCommons对能效问题的重视，也让买家能够更清楚地比较不同解决方案的能源效率和成本画像。
每个测试结果都会在LoadStair visualizer中以pareto frontier形式展示，呈现系统在不同负载下何时能够保持稳定，以及何时会遭遇性能断崖。这对于判断真实线上服务的安全运行区间尤其重要。
v1.0覆盖生成式AI与Agentic Coding工作负载
MLPerf Endpoints v1.0建立在今年7月发布的v0.7基础版本之上，覆盖多类生成式AI工作负载，包括DeepSeek-R1、GPT-OSS 120B和Llama系列模型。
此外，v1.0还新增了agentic coding工作负载，使用的模型包括DeepSeek v4 Pro、Kimi K3和Qwen 3.6。这反映出AI评测正在从单纯文本生成扩展到更复杂的代理式编程和工具使用场景。
滚动提交机制：新芯片和优化无需等待固定周期
MLPerf Endpoints现在支持rolling submissions。这意味着成员单位在发布新芯片或新的软件优化后，可以立即提交并发布经过同行评审的结果，而不必等待固定轮次。
不过，所有结果仍必须经过MLPerf的同行评审和审计流程，以保证结果的可信度和可比性。MLCommons预计，首批Endpoints v1.0结果将在11月发布。
对于准备提交的成员，MLCommons已在mlcommons.org/benchmarks/endpoints提供提交指南和规则。尚未成为成员的机构，也可以通过MLCommons参与相关工作。
结语
从欧盟AI Gigafactories采用MLPerf作为招标标尺，到MLPerf Endpoints v1.0面向真实API服务开放提交，AI基础设施评测正在进入一个更强调实际部署表现、能耗、成本和可审计结果的新阶段。对于AI买家而言，这类开放基准有望降低采购不确定性；对于供应商而言，它也将成为证明自身技术能力的重要公共语言。
© 2026 Winzheng.com 赢政天下 | 转载请注明来源并附原文链接