B300的每Token成本怎么算：推理经济性拆解

算力采购里最常见的错误，是拿”每卡每小时多少钱”做横向比较。这个指标直观，实际几乎没有决策价值——不同卡、不同精度、不同利用率下产出的token数可能差几倍。真正可比的口径只有一个：每百万token成本。

拆开算：每百万token成本＝单卡小时价×并行卡数×小时数÷产出token总量，三个变量决定结果。第一个是吞吐，即单卡每秒稳定输出多少token，受算力、带宽和模型结构制约。B300稠密NVFP4算力15 PFLOPS，比B200的10 PFLOPS高50%，模型能走NVFP4路径，同等硬件下吞吐上限抬升50%，单token成本摊薄约三分之一；负载停在FP8，5 PFLOPS与B200持平，吞吐不变，成本只能跟着租金走。第二个变量是租金。以Nebius公开报价为参考，B300按需价格从7.85美元/小时上调至9.50美元/小时，2026年10月1日起执行，相比年初的6.10美元累计涨约56%。按730小时满负载折算，单卡月成本从约4450美元升到约6935美元。这个涨幅很实在，但不必然传导到token价格上，关键看吞吐能否同步提升。第三个变量是利用率，也最易被忽略。9.50美元/小时按开机时间计费，实际利用率只有30%时，有效成本要乘三倍多；反过来，把多个业务混布到同一批卡、离线批处理与在线推理错峰排布，利用率从30%提到60%，单token成本直接腰斩。

三个变量放在一起，结论就清楚了：B300的经济性不由单价单方面决定，而是由精度路径、吞吐和利用率共同决定。2026年一季度国内AI算力需求同比增长417%，有效供给增速仅128%，供需缺口是这轮涨价的底层原因，短期不会消失。这种环境下，把钱花在提高利用率上，比纠结单价更有效。中海云算深耕AI算力领域，提供B300等高端GPU算力资源与灵活租用方案，支持按需与长租多种计费模式，帮助企业在算清每token成本后再定投入节奏，以更低前期投入跑通推理与微调。