B300 和 B200 差在哪?一张表看清该选哪个

两代卡长得像、名字像,参数却不是全面升级。搞清楚哪些涨了、哪些没动、哪些退了,才能判断值不值得多花钱。
涨的部分
单卡显存从 192GB 到 288GB,多了 50%。FP4 稠密算力从 10 PFLOPS 到 15 PFLOPS,提升 1.5 倍。注意力层的加速单元吞吐从每秒 5 万亿次指数运算提到 10.7 万亿次,约翻倍。功耗上限从 1200W 提到 1400W。
没动的部分
FP8、FP16、BF16 的稠密算力两代一致,卡间 NVLink 带宽都是 1.8TB/s,显存带宽都是 8TB/s。也就是说,如果你跑的是 FP8 或 BF16 训练,两者的理论算力没有差别。
退的部分
FP64 从整机 296 TFLOPS 降到 10 TFLOPS,INT8 从 72 POPS 降到 3 POPS。这两项对科学计算和传统整型推理是硬伤,选型时务必核对。
怎么选
模型装不进 192GB、或者要靠 FP4 量化压成本、或者长上下文吃紧,选 B300。模型能舒服装进 192GB、跑的是 FP8 或 BF16,选 B200 更划算,单位算力的价格通常更低。
中海云算在实际项目里见到的情况是,大多数中等规模模型用 B200 就够,只有真正撞到显存墙的负载,B300 的溢价才收得回来。
延伸阅读:
云服务器账单越滚越大,先查这三类闲置资源
云上成本失控,很少是因为单价高,更多是因为资源被遗忘。项目上线时开的一批测试机、做活动临时扩的实例、迁移后没释放的旧主机...
云服务器弹性伸缩配不好,扩容反而会拖垮业务
流量曲线从来不是平的。早高峰、午间小高峰、晚间活动和突发热点,都会让一台固定规格的云服务器在某个时刻被压到CPU满载。很...
云服务器备份别靠运气:快照、镜像与恢复演练该怎么做
很多团队对云服务器备份的理解,还停留在控制台里点一下快照。直到某天误删了数据库目录、被勒索软件加密了整块系统盘,或者所在...
云服务器带宽怎么买?固定带宽与按流量计费的临界点算给你看
云服务器账单里最容易失控的一项往往不是CPU,而是带宽。买固定带宽吧,平时用不到一半,钱照付;改成按流量计费吧,一篇稿子...
云服务器云盘怎么选?普通云盘、SSD云盘、ESSD的IOPS差距与选盘策略
数据库慢查询排查了一圈,索引加了、SQL改了、连接池也调了,响应时间还是卡在两百毫秒下不来,最后发现是云盘的IOPS被打...