Moonshot AI于2026年7月16日发布Kimi K3模型,参数规模2.8万亿,支持百万token上下文和原生视觉处理,计划7月27日开放权重。模型采用896专家MoE架构,每token激活16个专家,宣称较前代提升2.5倍扩展效率。
Kimi K3于2026年7月16日正式开放API访问,参数总量达到2.8万亿,成为首个进入3万亿参数级的开源模型。官方材料显示,该模型使用Stable LatentMoE框架,896个专家中每token仅激活16个,结合Kimi Delta Attention和Attention Residuals机制,实现了约2.5倍的扩展效率提升。
架构细节与实际运行要求
模型采用混合精度训练,权重为MXFP4,激活为MXFP8,并从监督微调阶段开始量化感知训练。上下文长度设定为100万token,原生支持文本与视觉输入,无需额外适配器。Hugging Face社区文章指出,完整权重计划于2026年7月27日发布,届时用户可进行自托管与微调。
这些设计直接影响部署成本。896专家的稀疏激活虽然降低单次推理的计算量,但模型总参数仍需完整存储,显存需求远超此前开源模型。实际运行时,KV缓存管理通过Gated MLA优化,然而百万token上下文仍要求大量内存带宽。
性能宣称与验证路径
官方技术描述称,Kimi K3在长程编程、知识工作和视觉推理场景下表现突出,能处理大型代码库并利用截图反馈完成前端或游戏开发任务。模型内置常开思考模式,并支持终端工具协调。
目前公开可验证的基准数据有限。Hugging Face文章仅提供模型卡概述,未列出具体多任务测试分数。
开放策略背后的产业影响
权重免费开放将降低研究机构获取前沿模型的门槛。此前同等规模模型多为闭源,Kimi K3的发布改变了这一格局。开发者可直接下载权重进行本地微调,加速垂直领域应用落地。
与此同时,算力消耗问题凸显。2.8万亿参数即使采用稀疏激活,训练和大规模推理仍需大量GPU集群。安全风险讨论随之而来:开放权重可能被用于生成对抗样本或绕过现有防护机制,社区已开始关注模型滥用防护措施的缺失。
独立判断
Kimi K3的开放是开源生态的重要进展。权重发布后,社区应优先关注量化后性能保留率与多任务一致性,而非单纯追求参数规模。
© 2026 Winzheng.com 赢政天下 | 转载请注明来源并附原文链接