日前，NVIDIA宣布了全新一代GH200 Grace Hopper超级芯片平台，史无前例地引入了HBM3e高带宽内存，以满足全球最复杂的生成式AI负载需求。
早在2022年3月，NVIDIA就推出了Grace Hopper超级芯片，首次将CPU和GPU融合在同一块主板上，但直到今年5月才开始量产。尽管NVIDIA没有透露HBM3e供应商的具体信息，但很有可能是来自SK Hynix。
以下是Grace CPU、Hopper GPU，以及Grace Hopper超级芯片的配置：
Grace CPU：
- 72个Armv9 CPU核心
- 198MB缓存
- 支持高达1TB/s带宽LPDDR5X ECC内存
- PCIe 5.0接口
Hopper GPU
- TSMC 4nm定制工艺
- 800亿晶体管
- 18432个CUDA核心、576个Tenor核心
- 60MB二级缓存
- 6144-bit HBM高带宽内存
CPU+GPU双路配置系统，两颗GH200超级芯片：
- 144个CPU核心
- 8PFlops（每秒8千万亿次浮点计算）的AI性能
- 282GB HBM3e内存（现在的3.5倍）
- 10TB/s带宽（现在的3倍）
- 1.2TB总容量
首批GH200超级芯片的系统计划在2024年第二季度开始出货。
