AI安全不可假设可组合性:部署需独立测试
AI从业者深知部署系统与基础模型行为差异显著,但安全评估常错误假设可组合性。研究表明,微调等修改会导致安全分数不可预测地变化,正反方向均有可能。MLCommons强调需针对完整部署系统进行测试,其Candela服务提供带误差范围的可靠基准,
AI从业者深知部署系统与基础模型行为差异显著,但安全评估常错误假设可组合性。研究表明,微调等修改会导致安全分数不可预测地变化,正反方向均有可能。MLCommons强调需针对完整部署系统进行测试,其Candela服务提供带误差范围的可靠基准,
MLCommons近日发布AILuminate Safety 1.2.1和Jailbreak 1.1两项基准,开发者可通过Candela服务自测AI系统产生有害内容的风险及抗攻击能力。基准由80多家机构共识构建,覆盖12类危害场景,并采用确
MLCommons 推出 Candela 平台,为开发者和部署者提供 AI 风险与可靠性基准测试服务。该平台基于 AILuminate 基准,支持 Safety 1.2.1 和 Jailbreak 1.1 等测试,覆盖暴力犯罪、金融健康法律
MLCommons 宣布更新使命,核心聚焦于标准化 AI 测量并支持各方做出明智决策。八年来 AI 行业快速发展,测量是解锁 AI 潜力的基础,能帮助表征系统行为、评估功耗与性能。组织将通过工业级基准测试、协议及测试套件,提供速度、功耗、可
MLPerf Endpoints是MLCommons推出的新型推理基准,专注于评估生产环境下的真实端点性能。它不再孤立测试硬件,而是将模型、硬件、 serving软件和网络整合,在真实负载下测量系统表现。该基准提供完整的Pareto前沿曲线
MLCommons AI Risk & Reliability工作组发布Agent Privacy Risk Taxonomy v0.1,系统梳理AI代理在处理个人数据时的五大隐私风险领域。该分类法聚焦数据摄取与处理、聚合使用与共享、跨代理
MLCommons 发布 MLPerf Inference v6.1 基准测试最新结果,参与机构数量创历史新高。本次更新新增端到端 RAG 和边缘代理推理两项测试,反映 AI 推理部署趋势,同时支持投机解码优化。结果显示,视觉语言模型性能较
MLCommons 近日宣布成为欧盟地平线欧洲计划资助的 AIRIS 项目联合体成员。该项目汇集欧洲、加拿大和美国 21 家合作伙伴,获得 1690 万欧元资助,旨在开发融合生物知识与临床数据的生成式 AI 平台。MLCommons 将主导
MLCommons近日公布MLPerf Storage v3.0基准测试结果。该版本新增KV Cache和Vector Database两项测试,覆盖更多AI推理存储场景。同时引入S3对象存储访问层,支持更广泛存储系统性能比较。共有19家机
MLPerf自2018年推出以来,已成为衡量AI系统性能的行业标准,追踪到大语言模型推理能效提升超100倍、训练速度提升超50倍。随着AI服务广泛应用,企业采购推理算力需求日益复杂,MLCommons正式推出MLPerf Endpoints
MLCommons Chakra 工作组于 2023 年成立,旨在解决 AI 系统快速发展带来的基准测试与软硬件协同设计难题。通过标准化执行追踪(Execution Trace),Chakra 提供了一个开放、可互操作的生态系统,支持从真实
MLCommons 正式推出 MLPerf Mobile v6.0 版本,新增针对 Android 设备运行大语言模型的生成式 AI 基准测试。该版本引入 Llama 3.2 1B、3B 及 Llama 3.1 8B Instruct 模型
MLCommons公布第四届 Rising Stars 名单,39位来自全球26所机构的早期研究者从175多名申请者中脱颖而出。入选者研究覆盖大语言模型、ML系统效率、软硬件协同设计、可信AI、多模态学习及医疗、网络安全、科学计算等应用方向
AI系统在各个领域的应用需要明确其行为并评估其可靠性。MLCommons的AI风险与可靠性工作组专注于提高AI可靠性,这不仅能推动市场增长,还能保护社会安全。通过制定详细计划并实施,确保AI系统在不同阶段的可靠性。
AI行业每隔几个月就会推出新一代前沿模型,这些模型的能力不断提升,同时也改变了监管机构、企业和公众需要评估的风险格局。然而,用于衡量这些风险的基准并不会自动更新。本文介绍了MLCommons的AILuminate基准及其Continuous
MLCommons 近日发布 MLPerf Client v1.6,这是评估个人电脑 AI 性能的最新基准测试套件。该版本针对笔记本电脑、台式机和工作站等设备,模拟真实生成式 AI 任务,如文本摘要、内容创作和代码分析,提供响应速度和吞吐量
AI作为当今采用速度最快的通用技术,其全球普及却存在显著差距,反映出数字鸿沟。MLCommons推出AILuminate Culturally-Specific Multimodal Benchmark,针对亚太地区开发文化特定的多语言多模
人工智能行业正处于转折点,企业将AI从实验阶段推向金融、医疗和制造等关键业务时,可靠性验证成为核心障碍。MLCommons联盟(包括KPMG、Google、Microsoft和Qualcomm)推出AILuminate全球保障计划(AIL
随着大语言模型进入安全、合规关键环境,对抗性提示鲁棒性已成为运营必需。单轮越狱攻击持续暴露系统弱点。MLCommons 推出基于分类法的评估方法,建立可辩护、可复现的基准基础。该方法采用机制优先的单轮提示攻击分类法,确保确定性标注、一一映射
人工智能正从消费级聊天工具转型为驱动企业服务的通用技术,却面临可靠性壁垒。企业需确信AI系统输出正确、安全且可靠,方能广泛部署。克服此挑战依赖评估标准,将ISO/IEC等传统标准与AI的非确定性桥接。MLCommons等组织将这些目标转化为