企业级训练集群

训练集群的瓶颈几乎从来不是 GPU 本身，而是机房能够提供的电力，以及能够排出的热量。一台八卡 B300 节点功耗约 14kW，因此两台节点加上 PDU 余量已构成一个 30kW 机柜，而多数企业机柜的布线设计并不支持这一规模。

首先应当阅读的规格是风冷，两款节点均对此明确标注，因为它决定了容量上限。风冷能够承载这一密度的节点，但前提是机房具备相应的风量与排热能力，这属于现场勘察范畴，而非报价单上的一行文字。当业务负载所需的密度超出机房的承载能力时，浸没式液冷改变了计算方式：VasRack 机柜额定 80 至 126kW，pPUE 低于 1.1，并可在温度高达 45C 的设备间内运行，因此无需先对该场所进行空调改造。

在确定上述边界之后，唯一真正需要做的决策并不是 GPU。两款节点搭载相同的八块 HGX B300 SXM 模组、相同的 2.3TB HBM3e 显存，以及相同的 8U 机箱，差异在于处理器平台。Intel 822GS 单路最高 86 核，配备 32 个内存插槽；AMD 8126GS 单路最高 384 核，配备 24 个内存插槽。当数据流水线构成瓶颈时应选择更多核心，当主机需要暂存大批量数据时则应选择更多内存插槽。

我们从这一约束条件反向推导集群规模。若场地单机柜可支持 40kW，那么合理配置是两台节点并保留余量，而非三台在满载时会导致跳闸的节点。按此方式设计的集群能够在额定负载下稳定运行，而这也是唯一值得采购的算力形态。