AI服务器高频名词速查：算力、互联与散热术语解读

AI服务器是智算中心的核心算力单元，其技术术语常让非专业人士困惑。本文从算力单元、互联架构、散热方案三个维度，解读高频名词。

算力单元：GPU、TPU与AI加速器

GPU（图形处理器）：最初为图形渲染设计，因并行计算能力强，成为AI训练与推理的主力。衡量GPU算力的常见指标是TFLOPS（每秒万亿次浮点运算），分单精度（FP32）和半精度（FP16/BF16）。实际场景中，峰值TFLOPS是理想值，持续算力受功耗与散热限制。选购时需关注散热能力，而非仅看峰值参数。

TPU（张量处理器）：谷歌自研的专用AI芯片，主打神经网络矩阵运算。TPU性能通常以TOPS（每秒万亿次整数运算）表示。需注意TPU绑定谷歌云生态，本地部署不常见。其他厂商也有类似专用芯片，如华为昇腾、寒武纪等，统称AI加速器，其指令集与框架适配性各有差异。

算力利用率：指真实运行模型时实际达到的算力占峰值比例。受显存带宽、数据搬运、模型并行策略影响，利用率常在30%-70%之间。选择服务器时，应关注典型负载下的实测效率，而非单纯比较峰值数字。

互联架构：NVLink、PCIe与高速网络

NVLink：NVIDIA开发的高速GPU直连技术，用于GPU之间点对点通信，带宽远高于PCIe。NVLink使多GPU协同训练时数据交换延迟更低。常见配置如NVLink Bridge或NVSwitch，需与对应GPU型号配对。

PCIe（外设组件互连标准）：CPU与GPU、网卡等设备连接的通用总线。PCIe 4.0/5.0单通道带宽约2GB/s到4GB/s，多GPU通过PCIe交换芯片互联。相比NVLink，PCIe带宽较低，且共享带宽会影响整体吞吐。

高速网络（InfiniBand/RoCE）：AI集群中多服务器间互联依赖高速网络。InfiniBand提供低延迟高吞吐，但成本较高；RoCE（基于融合以太网的RDMA）在低成本下实现类似效果。跑大型分布式训练时，网络带宽与拥塞控制直接影响训练效率，是选购集群时的核心考量之一。

拓扑结构：描述GPU与交换机连接方式，如胖树、环状等。对于千卡级集群，拓扑设计决定跨节点通信效率。常见误区是只关注单机性能，忽略互联拓扑对整体算力的限制。

散热方案：风冷、液冷与能效比

风冷：传统散热方式，通过风扇吹散热片带走热量。AI服务器功耗往往在800W-2000W，风冷可满足多数场景，但噪声大、散热密度有限。随着单机功耗上升，2000W以上风冷变得拥挤。

液冷：包括冷板式与浸没式。冷板式通过液体管路直接冷却发热芯片，效率高，噪声低，且支持更高功耗密度。浸没式将整机浸入介电液体中，散热均匀但维护复杂。2026年新建智算中心中液冷方案占比明显提升。

PUE（能源利用效率）：总能耗与IT设备能耗比值，越接近1越好。液冷有助于降低PUE，但初始投入高。选购时应综合电费、维护成本与使用寿命。风冷PUE通常在1.2-1.4，液冷可降至1.1以下。

热设计功耗（TDP）：散热系统必须处理的较高热负荷。AI服务器常标注各芯片TDP，实际散热方案需留有余量，否则持续高负载下会降频。注意单位，有的用瓦(W)，有的用千瓦(kW)。

常见问题