B300的288GB显存如何支撑大模型长上下文推理
云计算
B300的288GB显存如何支撑大模型长上下文推理

B300的288GB显存如何支撑大模型长上下文推理长上下文推理的瓶颈，很多时候不在算力，而在显存。KV cache随上下...

qcyun 2026年10月30日