AI算力鸿沟:企业采购速度远超成本管控能力

AI算力鸿沟:企业采购速度远超成本管控能力

人工智能的算力竞赛正在以超出企业财务管控能力的速度展开。根据VentureBeat最新发布的调查报告,在对107家企业的深度调研中,一个令人警醒的图景浮现:企业AI基础设施的采购速度,已经远远快于其衡量和驾驭相关成本的能力。这一“算力鸿沟”不仅考验着企业的技术选型智慧,更对其财务治理体系提出了严峻挑战。

主流现状:超大规模云与模型API的舒适区

调查显示,目前绝大多数企业的AI工作负载运行在熟悉的“舒适区”内——超大规模云服务商(如AWS、Azure、Google Cloud)以及模型提供商的API接口。这种模式的优势显而易见:即开即用、按需付费、运维简便,企业无需自建复杂的硬件基础设施。然而,这种便利性也暗藏隐患——成本可视性极差。由于云服务计费模型复杂,涉及计算实例、存储、网络、API调用等多个维度,许多企业甚至无法准确核算单个AI项目的真实成本。

“大多数组织对其AI基础设施的支出只有模糊的全局估算,缺乏对特定模型、特定项目或特定部门的成本分账能力。这种盲点正在成为管理层决策的致命缺陷。”——VentureBeat调查报告

未来转向:专用计算成为“下一美元”的目标

令人惊讶的是,尽管当前超大规模云和API仍是主流,企业计划中的“下一美元”却正大规模涌向专用计算设备——GPU集群、TPU、边缘AI芯片等。这些专用硬件目前在绝大多数企业中的使用率几乎为零,但超过半数受访企业表示将在未来12个月内考虑引入或切换至此类基础设施,其中相当一部分甚至计划在下一个季度内付诸行动。这一趋势表明,企业正在主动打破对通用云计算的依赖,寻求更高效、更定制化的算力方案。

从行业背景来看,这种转向有其逻辑必然性。随着大模型参数规模持续膨胀,训练和推理的成本压力不断攀升。通用云实例在特定AI任务上的效率远低于专用芯片,导致单位token成本居高不下。与此同时,市场上的专用计算选项日趋丰富——从英伟达的H100/B200到AMD的MI300,再到谷歌的TPU v5、英特尔的Gaudi,以及各类AI推理加速卡——企业有了更多选择余地。

决策逻辑:集成与总拥有成本压倒标价

调查揭示了一个重要发现:企业在选择AI基础设施时,购买决策的关键因素并非表面上吸引眼球的“token单价”,而是更深层的系统集成难度和总拥有成本(TCO)。一个典型的例子是,某云服务商虽然API调用价格极低,但若其与现有数据管道、安全策略、合规框架的集成成本高昂,反而可能使总体TCO上升。

换言之,企业正在从“单纯看价格”转向“全生命周期成本核算”。这包括:硬件采购/租赁费用、电力与冷却、运维人力、软件许可、数据迁移、供应商锁定风险以及因算力不足导致的开发延迟机会成本等。这种综合评估需要跨部门(IT、财务、业务)的协同,而目前多数企业尚未建立这样的机制。

编者按:企业亟需建立AI成本治理新范式

AI算力支出的“脱缰”并非无迹可寻。根本原因在于,传统IT成本管理工具和方法在面对AI工作负载时力不从心。AI项目具有高度的实验性和迭代性,资源消耗波动巨大,且难以预先精确估算。企业若继续沿用“先采购、后记账”的粗放模式,必将导致成本失控。

建议企业采取以下措施:第一,建立AI项目级别的成本标签和分账机制,引入FinOps(财务运营)实践;第二,在采购决策中强制进行TCO建模,将集成成本、迁移成本、锁定成本纳入评估;第三,定期审查供应商组合,避免单一依赖,利用多云或混合架构进行成本仲裁;第四,培养跨学科人才,使财务人员理解AI技术原理,技术人员理解成本约束。

随着AI从实验走向生产,算力成本将不再是“试错成本”,而是核心运营成本。谁能率先搭建起成本可见性与治理的体系,谁就将在下一阶段竞争中占据战略先机。

本文编译自VentureBeat