B300 服务器是什么?一台整机由哪些部分组成

B300 服务器是什么?一台整机由哪些部分组成
B300 服务器是什么?一台整机由哪些部分组成

B300 服务器指搭载英伟达 Blackwell Ultra 架构 GPU 的八卡整机。它的变化集中在显存容量和低精度算力,主要冲着大模型推理和长上下文场景。

核心变化在显存

单卡显存从上一代 Blackwell 的 192GB 提到 288GB HBM3e,八卡整机合计 2.1TB,显存带宽维持 8TB/s。对跑大模型的人来说,显存容量往往比峰值算力更早成为瓶颈。

算力提升集中在低精度

FP4 稠密算力从单卡 10 PFLOPS 提到 15 PFLOPS,八卡整机 FP4 达到 144 PFLOPS 稀疏、108 PFLOPS 稠密。FP8、FP16、BF16 的稠密算力和上一代持平,注意力层的加速单元吞吐翻了约一倍。

换句话说,只有模型真正量化到 FP4、推理引擎也支持 FP4 算子,才能吃到这部分提升。

整机的其他部分

八卡通过第五代 NVLink 互联,卡间带宽 1.8TB/s,整机聚合 14.4TB/s。整机功耗上限约 14 千瓦,机箱规格在 10U 左右,网络侧普遍配 800G 网卡。

一个容易忽略的取舍

B300 的 FP64 和 INT8 算力相比上一代大幅缩水,科学计算、仿真和传统整型推理并不适合迁到这一代。中海云算做方案时会先确认业务跑什么精度,再决定要不要上。

暂无介绍....

延伸阅读:

云服务器账单越滚越大,先查这三类闲置资源

云上成本失控,很少是因为单价高,更多是因为资源被遗忘。项目上线时开的一批测试机、做活动临时扩的实例、迁移后没释放的旧主机...

qcyun
2026年11月19日
云服务器弹性伸缩配不好,扩容反而会拖垮业务

流量曲线从来不是平的。早高峰、午间小高峰、晚间活动和突发热点,都会让一台固定规格的云服务器在某个时刻被压到CPU满载。很...

qcyun
2026年11月19日
云服务器备份别靠运气:快照、镜像与恢复演练该怎么做

很多团队对云服务器备份的理解,还停留在控制台里点一下快照。直到某天误删了数据库目录、被勒索软件加密了整块系统盘,或者所在...

qcyun
2026年11月19日
云服务器带宽怎么买?固定带宽与按流量计费的临界点算给你看

云服务器账单里最容易失控的一项往往不是CPU,而是带宽。买固定带宽吧,平时用不到一半,钱照付;改成按流量计费吧,一篇稿子...

qcyun
2026年11月19日
云服务器云盘怎么选?普通云盘、SSD云盘、ESSD的IOPS差距与选盘策略

数据库慢查询排查了一圈,索引加了、SQL改了、连接池也调了,响应时间还是卡在两百毫秒下不来,最后发现是云盘的IOPS被打...

qcyun
2026年11月19日