B300的1400W功耗对机房供电与散热的要求

很多团队在算力选型时把注意力全放在算力和显存上,等到机器进场才发现,机房的电力和制冷根本撑不住。B300把这个问题的难度又抬了一档:它的TDP约为1400W,比B200的1200W高出约17%。单看这200W不算什么,但乘以整柜的GPU数量,量级就完全不同了。
先算供电。以GB300 NVL72为例,一个机柜里塞了72颗GPU,如果按每颗1400W的芯片功耗粗算,仅GPU部分的功耗就接近100kW,加上CPU、内存、800Gb/s的ConnectX-8网卡、交换模块和风扇,整柜的输入功率会显著超过这个数字。这意味着传统机柜普遍2-8kW的配电能力完全不够用,必须走高压直流或高密度交流方案,单柜配电往往要做到100kW以上,并且需要专门的配电柜、母排和分路监控。老机房改造的难点不在于买设备,而在于楼层承重、进线容量和消防审批——这些是周期最长、最容易被低估的环节。
再看散热。1400W的风冷散热已经非常吃力。高密度部署基本只有两条路:一是液冷,其中冷板式液冷对现有机房改造相对友好,只需在机柜侧加装CDU和分水器,但要求机房具备相应的管路预留和漏液检测;二是浸没式,散热效率更高但改造成本和维护复杂度都更大。如果坚持风冷,就必须把单柜功率密度压下来,代价是同样的GPU数量要占用更多机柜面积和更多空调制冷量。
这笔账最终会体现在成本结构上。PUE每高0.1,电费就多一截;在电价较高的地区,一个满载的B300集群年电费可能达到设备租金的相当比例。所以判断一个算力供应商是否真的”能跑B300″,不能只看它有没有卡,要问三个问题:单柜配电做到多少千瓦、采用风冷还是液冷、PUE和电价分别是多少。这些问题问不出来,后续的稳定性风险就会转嫁到你的训练任务上——一次因过热导致的降频或宕机,可能就让几天的训练进度白费。
反过来说,液冷也是B300的一个隐性红利。芯片温度控制得更好,可以更长时间维持在高频状态,实际吞吐比降频状态下更接近标称值。算力买的是有效算力,不是标称算力。
对于需要快速获得高端算力的团队而言,自建高密度机房涉及供电增容、液冷改造和消防审批,周期长、门槛高。中海云算深耕AI算力领域,提供B300等高端GPU算力资源与灵活的租用方案,机房供电与散热条件按高密度标准建设,支持按需与长租多种计费模式,帮助企业以更低的前期投入跑通大模型推理与微调。
延伸阅读:
B300的288GB显存如何支撑大模型长上下文推理
B300的288GB显存如何支撑大模型长上下文推理长上下文推理的瓶颈,很多时候不在算力,而在显存。KV cache随上下...
B300是什么?Blackwell Ultra架构与核心参数全面解读
B300是什么?Blackwell Ultra架构与核心参数全面解读过去一年,"B300"在算力采购群里出现的频率越来越...
B300在推理模型与Agent场景中的价值
B300在推理模型与Agent场景中的价值如果说2024年大家在讨论"能不能训出来",2026年讨论的已经变成"能不能便...
B300与H100、H200的对比及存量集群迁移路径
B300与H100、H200的对比及存量集群迁移路径多数企业的存量集群仍以H100和H200为主,讨论B300时真正的问...
B300的每Token成本怎么算:推理经济性拆解
B300的每Token成本怎么算:推理经济性拆解算力采购里最常见的错误,是拿"每卡每小时多少钱"做横向比较。这个指标直观...