MLCommons 小型LLM推理基准5.1发布
MLCommons近日发布了Small LLM Inference基准5.1版本,这是针对1-3B参数小型语言模型推理性能的标准化测试框架。此次更新引入了更多模型和硬件提交,涵盖了Llama 3.2 1B、Phi-3.5-mini等热门SL
MLCommons近日发布了Small LLM Inference基准5.1版本,这是针对1-3B参数小型语言模型推理性能的标准化测试框架。此次更新引入了更多模型和硬件提交,涵盖了Llama 3.2 1B、Phi-3.5-mini等热门SL
DeepSeek Inference 5.1 是DeepSeek最新发布的推理引擎,在 MLCommons 推理基准中表现出色。该版本针对大模型高效推理进行了优化,支持 SGLang 等框架,显著提升了吞吐量和延迟性能。测试数据显示,在 L
MLCommons 近日发布了 MLPerf Inference v5.1 基准测试结果,这是生成式 AI 时代推理性能评估的最新标准。新一轮测试引入 Llama 3.1 405B 等大型模型基准,涵盖数据中心离线(Offline)、服务器
MLCommons近日公布MLPerf Tiny v1.3基准测试结果,聚焦边缘设备上的高效AI推理性能。LMSYS Org等多家机构提交成果,在Image Classification、Keyword Spotting、Anomaly D
MLPerf Tiny v1.3 是针对边缘设备AI模型的最新基准套件,由MLCommons发布。该版本引入了图像分类(IC)和视觉唤醒词(VWW)两大全新基准,同时优化了关键词识别(KWS)和异常检测(AD)任务。基准聚焦于资源受限的微控
MLCommons 近日发布了 Croissant MCP(Model Card Profile),这是基于 Croissant 格式的创新扩展,旨在标准化 AI 模型的元数据描述。该标准简化了模型卡片的创建与共享,支持自动生成文档、提升可
MLCommons与LMSYS Org联合发布的AILuminate Jailbreak V05基准测试结果新鲜出炉!本次更新引入了更先进的越狱攻击策略,覆盖化学、生物、网络安全等高风险领域。顶级模型如GPT-4o、Claude 3.5 S
MLCommons 发布的《Training Flux.1》报告详解了 Black Forest Labs 的 Flux.1 模型训练过程。该模型采用 12B 参数的 DiT 架构,在海量高质量数据集上训练,支持文本到图像生成,性能媲美 M
MLCommons 最新发布 Llama 3.1 8B 模型训练基准报告,由 LMSYS Org 贡献。该报告详细记录了使用标准硬件集群训练该 8B 参数模型的全过程,包括数据准备、训练时长、能耗和性能指标。结果显示,在 4090 张 H1
MLCommons与LMSYS Org合作推出ISO-AUS基准测试,这是首个针对AI模型隔离推理优化的标准化框架。ISO-AUS聚焦于高负载下的模型隔离性能、资源利用率和延迟控制,涵盖从边缘设备到云端服务器的多种场景。测试结果显示,领先模
MLCommons近日公布了MLPerf Training v5.1基准测试结果,这是AI训练性能评估的最新一轮提交。NVIDIA继续领跑多数工作负载,凭借H100和H200 GPU集群刷新多项记录。新引入的Llama 70B FP8和St
MLCommons 近日发布了 MLPerf Client 1.5 基准测试套件,这是客户端 AI 推理性能评估的最新版本。该版本引入了多项优化和新场景,包括更真实的客户端负载模拟,支持热门模型如 BERT 和 Stable Diffusi
MLCommons 旗下开源平台 MedPerf 近日推出 WebUI 支持,用户无需本地安装即可通过浏览器轻松运行隐私保护的机器学习基准测试。新功能集成了 SGLang 等后端,简化了模型评估流程,支持多种任务如图像分类和 NLP。Web
MLCommons近日公布VLM(视觉语言模型)推理基准测试结果,Shopify团队表现出色。本次测试聚焦LLaVA-1.5-7B等模型在电商场景下的实时推理性能,采用MLPerf Inference框架评估。Shopify利用SGLang
法国巴黎检察官办公室突袭X(前Twitter)在法国的办公室,调查xAI的Grok聊天机器人涉嫌生成非法内容,包括未成年色情图像。埃隆·马斯克已被传唤接受质询。此事件凸显AI内容生成面临严格监管,欧盟数字服务法(DSA)加强了对平台的责任追
AI巨头Nvidia与OpenAI的百亿美元投资交易传闻后突然冷却,引发市场震动。原本被视为AI基础设施巨额合作的典范,却在细节曝光后悄然消失。这不仅动摇了投资者信心,还凸显了AI行业资金链与战略合作的脆弱性。Nvidia作为AI芯片霸主,
Anthropic在超级碗广告中高调嘲讽AI产品推销,明确反对聊天机器人插入广告。作为ChatGPT的强劲竞争对手,Anthropic强调用户体验优先,反对商业化干扰AI交互。该广告以幽默方式展示AI被广告淹没的荒谬场景,引发行业热议。在A
随着AI生成内容的机器人大量涌入互联网,出版商正推出更激进的防御措施。这场由AI爬虫引发的对抗已演变为技术军备竞赛。网站所有者部署高级检测工具、CAPTCHA升级和流量限制,而AI开发者则不断优化伪装技术。专家警告,这种猫鼠游戏可能导致互联
OpenAI 首席执行官 Sam Altman 在 X 平台上发长文抨击竞争对手 Anthropic 的全新超级碗电视广告,称其“虚伪”和“专制”。这场广告大战源于 Anthropic 在超级碗期间投放的高调宣传片,暗示 OpenAI 的
OpenAI近日推出GPT-5.3-Codex版本,将Codex定位为超越单纯代码生成的AI工具,重点强调‘中途转向’(mid-turn steering)和‘频繁进度更新’功能。这一升级旨在让AI在复杂编程任务中实现实时调整和透明反馈,帮