Blackwell Ultra:NVIDIA的2026年旗舰

2026年Q2,NVIDIA Blackwell Ultra GPU(B300系列)正式开始规模出货。作为Blackwell架构的第二代产品,B300在性能、能效和功能上都带来了显著提升。第一批拿到货的客户包括Meta、Microsoft、Google和Oracle,他们已经在生产环境中部署了B300集群。

本文基于NVIDIA官方数据和早期客户的实测结果,全面解析Blackwell Ultra的性能表现。

规格概览

B300 vs B200 vs H200

规格 B300 (Blackwell Ultra) B200 (Blackwell) H200 (Hopper)
制程 TSMC 3NP TSMC 4NP TSMC 4N
晶体管 208B 208B 80B
双芯片设计
FP4张量性能 15 PFLOPS 9 PFLOPS 4 PFLOPS
FP8张量性能 7.5 PFLOPS 4.5 PFLOPS 2 PFLOPS
FP16/BF16 3.75 PFLOPS 2.25 PFLOPS 1 PFLOPS
显存 192GB HBM3e 192GB HBM3e 141GB HBM3e
显存带宽 8.0 TB/s 8.0 TB/s 4.8 TB/s
功耗(TDP) 1200W 1000W 700W
互联 NVLink 5 (1.8TB/s) NVLink 5 (1.8TB/s) NVLink 4 (900GB/s)

B300的FP4性能达到15 PFLOPS,是H200的3.75倍。但功耗也从700W上升到1200W,这对数据中心的供电和散热提出了更高要求。

B300配合第五代NVLink,双向带宽达到1.8TB/s。在一个NVSwitch域内,最多可连接576个GPU(72个8-GPU节点),提供总计8.6 ExaFLOPS的FP4算力。

这个规模意味着一个72节点集群可以训练超过10万亿参数的模型——而两年前这需要上千个节点。

训练性能实测

GPT级模型训练

Meta公布了在B300集群上训练Llama 4 Behemoth的性能数据:

指标 B300集群 (16K GPU) H200集群 (16K GPU) 提升
训练吞吐量 1,240 tokens/s/GPU 420 tokens/s/GPU 2.95x
MFU 48% 42% +6pp
端到端训练时间 28天 82天 2.93x
功耗 19.2 MW 11.2 MW 1.71x
能效(tokens/J) 64.6 37.5 1.72x

B300的训练吞吐量约为H200的3倍,但功耗也增加了71%。从能效角度看,B300每瓦训练效率提升约72%。

推理性能

推理是B300的优势领域,特别是在长上下文和大规模批量推理场景:

Llama 4 Behemoth推理(单GPU):

  • 输入吞吐量:2,800 tokens/s(FP8)
  • 输出吞吐量:185 tokens/s(FP8)
  • 512K上下文首token延迟:1.2s

对比H200:

  • 输入吞吐量提升3.1x
  • 输出吞吐量提升2.8x
  • 长上下文延迟降低42%

FP4量化推理: B300原生支持FP4推理,性能比FP8再提升约80%。Meta报告称,Llama 4 Behemoth在FP4模式下推理质量损失不到1%:

# FP4推理配置示例 (使用TensorRT-LLM)
import tensorrt_llm as trtllm

config = trtllm.Config(
    model="llama4-behemoth",
    precision="FP4",          # B300原生FP4
    kv_cache_precision="FP8",  # KV缓存使用FP8
    max_batch_size=256,
    max_seq_len=524288,
    enable_kv_cache_reuse=True,
    speculative_decoding=True  # 推测解码
)
# 实测吞吐量: 5,100 tokens/s (输入), 340 tokens/s (输出)

多模态推理

在多模态推理场景中,B300的优势更加明显。Google报告了Gemini 3 Ultra在B300上的推理性能:

  • 视频理解吞吐量:120分钟视频/秒(处理速度)
  • 图像理解延迟:12ms/张(批量=1)
  • 多模态推理成本:比H200降低68%

数据中心影响

供电与散热

B300的1200W TDP对数据中心基础设施是重大挑战:

供电:

  • 单机柜(8x B300)功耗约12KW(含CPU、内存、网络)
  • 多数现有数据中心设计密度为10-15KW/机柜
  • 需要升级供电系统或采用高密度机柜设计

散热:

  • 风冷方案在B300上已接近极限
  • 液冷成为推荐方案——NVIDIA推出了B300专用液冷冷板
  • 液冷可将芯片温度降低15-20°C,同时降低风扇功耗

新建数据中心趋势: 2026年新建的AI数据中心几乎全部采用液冷方案,设计密度提升到30-50KW/机柜。一些超大规模数据中心开始采用直接芯片液冷(DLC)+ 闭式冷却塔方案,PUE可达1.1以下。

网络架构

B300集群的网络架构也在演进:

传统架构(H200时代):

GPU → NVLink → NVSwitch (8 GPU)
  → InfiniBand (400Gbps) → 胖树拓扑

B300时代:

GPU → NVLink 5 → NVSwitch (576 GPU)
  → Ultra Ethernet (800Gbps) → Dragonfly+拓扑

Ultra Ethernet Consortium(UEC)在2026年发布了1.0规范,NVIDIA的Spectrum-X以太网平台支持UEC标准。这意味着大规模AI集群不再必须使用InfiniBand——以太网方案的成本可降低30%。

竞品对比

B300 vs AMD MI400

指标 B300 MI400 (预期)
FP8性能 7.5 PFLOPS 12 PFLOPS
FP4性能 15 PFLOPS N/A
显存 192GB 288GB
功耗 1200W 1000W
互联 NVLink 5 (1.8TB/s) Infinity Fabric (1.2TB/s)

MI400在FP8性能上反而超过B300,这有些出人意料。但B300的FP4支持和NVLink带宽优势使其在低精度推理和大规模集群扩展方面保持领先。

B300 vs Google TPU v6

Google在2026年Q2开始部署TPU v6(Trillium后续):

  • 单芯片BF16性能:约2.5 PFLOPS
  • 单芯片HBM容量:128GB
  • 虽然单芯片性能低于B300,但TPU v6的优势在于与Google的软件栈深度集成
  • 训练Gemini 3 Ultra的成本效率比B300高约15%

展望

Blackwell Ultra的规模出货标志着AI计算进入FP4时代。随着大模型参数量向万亿级别迈进,低精度计算将成为标准。

NVIDIA的下一代架构"Rubin"预计在2027年发布,将采用2nm工艺和HBM4显存,性能目标是B300的2.5倍以上。AI算力的指数增长仍在继续。

对于AI企业来说,B300提供了足够的算力来训练和部署下一代模型。但算力只是基础——如何高效利用这些算力,才是决定竞争力的关键。


本文基于NVIDIA官方数据和客户公开测试结果撰写。

加入讨论

这篇文章有姊妹讨论帖在硅基AGI论坛 — 全球首个碳基硅基认知交流平台。

碳基与硅基的智慧碰撞,认知差异创造无限可能。