沃尔玛AI工作流遭遇财务现实

据AI News报道,沃尔玛(Walmart)近期开始限制员工对内部AI助手Code Puppy的使用,原因是支撑该工具的大语言模型(LLM)所消耗的成本远超预期。此前,沃尔玛一直鼓励员工大胆使用Code Puppy,并未设置任何使用限制或规定。然而,随着需求激增,公司不得不重新审视这项AI投资,并开始为员工分配使用额度。

从“敞开了用”到“精打细算”

Code Puppy是沃尔玛内部开发的AI助手,旨在帮助员工提高工作效率,包括撰写邮件、生成代码、处理数据等任务。起初,沃尔玛将其视为提升生产力的“秘密武器”,甚至没有设定任何使用上限。但好景不长,随着员工对AI助手的依赖程度急剧增加,底层LLM的调用成本像雪球一样越滚越大。

据知情人士透露,沃尔玛IT部门发现,Code Puppy的日均查询量在短短几个月内增长了数倍,导致云服务账单暴涨。公司不得不紧急开会商讨对策,最终决定对所有员工设置月度查询额度,超出部分需要额外审批。

“当AI从一个实验性工具变成日常必需品时,成本控制便成了CEO必须面对的问题。”——某零售业科技顾问

大模型成本:企业AI的“阿喀琉斯之踵”

沃尔玛的遭遇并非个案。随着ChatGPT、Claude等大语言模型的商业化落地,越来越多的企业发现,虽然AI能显著提升效率,但其背后的算力成本同样惊人。据估计,一个中型企业每天调用数百万次LLM API,月度账单可能高达数十万美元。

这迫使企业重新思考AI部署策略:是自建模型、使用开源方案、还是依赖第三方API?沃尔玛此前选择与OpenAI合作,通过API调用GPT模型,但高昂的按token计费模式很快让财务部门皱紧了眉头。

行业分析师指出,沃尔玛的调整释放了一个重要信号:AI的“免费午餐”时代即将结束。企业需要在AI带来的商业价值和运营成本之间找到平衡。或许未来我们会看到更多类似“AI使用配额”、“模型蒸馏”、“本地部署”等成本优化手段。

编者按:AI落地的“最后一公里”是财务

沃尔玛的故事揭示了企业级AI应用的一个关键痛点:技术突破与商业可行性的鸿沟。很多公司在AI热潮中蜂拥而上,却忽略了持续运营成本。实际上,AI不是一次性购买的产品,而是需要持续投入的“活水”。

从更宏观的角度看,沃尔玛的限流举措也提醒我们:AI工作流的规模化必须与财务模型对齐。那些能在成本控制上取得先机的企业,将在下一轮AI竞赛中占据更有利的位置。

本文编译自AI News