AI 基础设施的总体拥有成本

一份采购订单所反映的，只是 AI 基础设施成本的一部分。若按五年周期建模，资本性设备支出往往只占总额的少数。

五个组成部分

资本支出涵盖加速器、网络、存储、机柜与制冷设备。电力成本既包括设备自身功耗，也包括排出其热量所需的场地开销，在本地区气候条件下，这是一个可观的倍数，而非可忽略的零头。楼面空间体现为租金或机会成本。人力成本涵盖运维集群的人员，而这一项常常被完全遗漏。场地工程涵盖配电、制冷容量与楼板承载，通常是一次性支出，但由于从未被纳入范围界定，往往未列入预算。

利用率对模型的影响

在所有变量中，利用率对每有效小时成本的影响最大。闲置的加速器仍会消耗峰值功耗中相当大的一部分，而场地开销基本固定，因此利用率 40% 的集群，其运行成本与 80% 的集群相差无几，产出却只有一半。每有效小时成本大致翻倍。

这正是将开发工作移出生产集群、其财务影响大于多数采购谈判的原因：它提高的是分母。

模型通常出错的地方

有两类错误反复出现。其一是在确定加速器之后，用剩余预算配置网络与存储，其结果是集群无法保持满负荷运行，进而在上述利用率一项上失分。其二是把场地工程视为后勤问题而非项目成本，从而将其掩盖，直到它出现在关键路径上。

更可靠的做法是自机柜向内编制预算：先确定场地方愿意承诺的条件，再按预定节点数量的数据供给需求配置数据通路，最后让加速器数量由剩余预算决定。