不止对标 DeepInfer:SGLang 交付了什么
DeepSeek 开源 DeepInfer 后,SGLang 团队用 DeepInfer 自身基准在相同硬件上复测 DeepSeek-V4.1-Flash。结果显示,SGLang 在 prefill 吞吐、decode 步长等关键指标上持平
DeepSeek 开源 DeepInfer 后,SGLang 团队用 DeepInfer 自身基准在相同硬件上复测 DeepSeek-V4.1-Flash。结果显示,SGLang 在 prefill 吞吐、decode 步长等关键指标上持平
随着AI采购从“芯片速度”转向真实服务性能、成本与能耗,MLCommons宣布两项进展:MLPerf被欧盟AI Gigafactories招标采纳为训练与推理评测标准,MLPerf Endpoints v1.0也正式开放提交,以开放、同行评
MLCommons 宣布更新使命,核心聚焦于标准化 AI 测量并支持各方做出明智决策。八年来 AI 行业快速发展,测量是解锁 AI 潜力的基础,能帮助表征系统行为、评估功耗与性能。组织将通过工业级基准测试、协议及测试套件,提供速度、功耗、可
MLPerf拟以DLRMv4填补序列化推荐训练负载空白:新基准用HSTU替代传统特征交互栈,并引入Yambda-5B真实多行为数据集,将嵌入表扩展至约560GB,更贴近超大规模生产推荐系统。
MLCommons 发布 MLPerf Inference v6.1 基准测试最新结果,参与机构数量创历史新高。本次更新新增端到端 RAG 和边缘代理推理两项测试,反映 AI 推理部署趋势,同时支持投机解码优化。结果显示,视觉语言模型性能较
MLPerf Inference v6.1创下新纪录,共有30家提交者参与,涵盖硅厂商、系统集成商、云服务商及推理软件公司。本轮标志着行业向agentic和端到端基准测试的明显转向,同时涌现大量新型硬件。Datacenter套件最受欢迎的基
MLCommons 近日宣布成为欧盟地平线欧洲计划资助的 AIRIS 项目联合体成员。该项目汇集欧洲、加拿大和美国 21 家合作伙伴,获得 1690 万欧元资助,旨在开发融合生物知识与临床数据的生成式 AI 平台。MLCommons 将主导
在企业AI应用中,基准测试分数常被用作模型选型和采购决策的依据,但部分结果存在“benchmark washing”问题。本文基于MLCommons多年实践,提出七项信任测试准则,涵盖基准相关性、数据污染控制、可复现性、指标完整性、模型作弊
MLCommons近日推出MLPerf Client v2.0基准测试套件,扩展了对AI PC的评估能力。新版本新增图像生成和Agentic AI类别,同时升级LLM推理测试,支持Phi 4 Mini Instruct和Qwen 3 8B模
MLPerf自2018年推出以来,已成为衡量AI系统性能的行业标准,追踪到大语言模型推理能效提升超100倍、训练速度提升超50倍。随着AI服务广泛应用,企业采购推理算力需求日益复杂,MLCommons正式推出MLPerf Endpoints
随着AI从数据中心走向门铃、助听器、工业传感器和可穿戴设备,如何公平衡量毫瓦级设备的性能与能效成为关键问题。MLPerf Tiny通过统一模型、任务、精度目标和能耗测量方法,为TinyML硬件与软件栈提供可比较的标准。
MLCommons Chakra 工作组于 2023 年成立,旨在解决 AI 系统快速发展带来的基准测试与软硬件协同设计难题。通过标准化执行追踪(Execution Trace),Chakra 提供了一个开放、可互操作的生态系统,支持从真实
MLCommons 为 MLPerf Training v6.0 引入 GPT-OSS 20B 预训练基准,用更小硬件门槛评测 MoE 稀疏训练能力。该基准通过固定验证集、优化器稳定化和统一初始化,将训练波动显著压低,目标是让成绩更真实反映
MLCommons 近日发布 MLPerf Client v1.6,这是评估个人电脑 AI 性能的最新基准测试套件。该版本针对笔记本电脑、台式机和工作站等设备,模拟真实生成式 AI 任务,如文本摘要、内容创作和代码分析,提供响应速度和吞吐量
MLCommons近日公布了行业标准MLPerf Inference v6.0基准测试套件的最新结果。此次更新包括五个数据中心测试的新增或升级,以及边缘系统的全新物体检测测试。主要亮点有基于GPT-OSS 120B的开源大语言模型基准、扩展
MLCommons近日公布MLPerf Client v1.0基准测试结果,这是首个针对移动和边缘设备的AI推理基准,涵盖图像超分辨率、分类、目标检测、语音转文本、聊天机器人和图像生成六大任务。首次引入Llama 3.1 8B Instru