NVIDIA首秀Blackwell GB200超级芯片系统:AI推理性能飙升1.5倍

  此前有消息称,NVIDIA Blackwell 架构的新一代 GPU 推迟供货,但是官方没有承认,也没有否认,而是默默拿出了一套基于新一代 GB200 GPU+GPU 超级芯片的服务器系统,展示了一番。

  GB200 Grace Blackwell 包括两颗 B200 GPU、一颗 Grace CPU,总功耗高达 2700W。

  其中,B200 拥有 2040 亿个晶体管、8096-bit 192GB HBM3E 内存(带宽 8TB/s),性能达到 9PFlops (每秒 9 千万亿次),功耗首次达到 1000W。

  NVIDIA 展示的服务器犹如一件艺术品,一条条蓝色和铜色排线,大量超粗直径铜管,超大体积的散热片,组成了一个庞然大物。

  NVIDIA 没有透露具体配置,只说分为有无 NVSwitch 两种版本,其总带宽高达 14.4TB/s。

  性能方面只给出了一个数据:Llama 3.1 700 亿参数大模型的 AI 推理性能对比 H200 提高了足足 1.5 倍。

  散热怎么办?NVIDIA 透露正在开发热水散热系统,可以将耗电量减少 28%。

  不过,NVIDIA 仍然没有给出 Blackwell GPU 服务器的出货时间,估计在今年第四季度。

  即将到来的 Hot Chip 2024 大会上,NVIDIA 会详细讲解 Blackwell GPU,还会进一步披露未来 Vera CPU、Rubin GPU 的消息。