NVIDIA 近日发布其H100 AI加速器的新基准测试，并与AMD最近发布的Instinct MI300X加速器进行比较，表示在优化下效能依旧领先对手。
NVIDIA H100 在最佳化下比竞品快 47%
这些最新的基准测试旨在展示H100在使用适当软件时如何比竞争对手提供更快的性能，这在AMD最近的展示中并未实现。
在AMD的“Advancing AI” 展示中，公司推出旨在进入数据中心AI领域的Instinct MI300X加速器。 AMD表示，在单个GPU比较中，InstinctMI300X的性能比H100快将近20%，而在8 GPU服务器比较中，则快了60%。 然而，NVIDIA迅速回应这些基准测试，并指出这些结果并非事实。
NVIDIA表示，自家H100自2022年发布以来，在软件方面经历多项改进，最近的TensorRT-LLM更进一步提升AI专用工作负载性能以及核心层面优化，这些改进让H100能够使用FP8操作执行诸如Llama 2 70B这样的模型。
NVIDIA发布的基准测试显示，与AMD活动期间展示的结果相比，当使用优化的软件工作流程时，单个DGX H100服务器的速度提升两倍。 此外，该服务器比AMD Instinct MI300X 8-GPU解决方案快47%。
NVIDIA 使用这些新基准测试是合理的，因为 AMD 在评估其 GPU 性能时也使用了优化软件。 NVIDIA 围绕 CUDA 生态系统以及新兴 AI 市场软件已投入多年努力和开发，而 AMD 的 ROCm 6.0 则是新加入选手，还未在真实情境下进行测试。 尽管如此，AMD 也已与包括微软、META 等在内的大型公司达成大量交易，这些公司将 Instinct MI300X 视为 NVIDIA AI 解决方案的替代品。
预计InstinctMI300X和InstinctMI300A将于2024年上半年推出，与NVIDIA推出更快的Hopper H200的时间相近，随后还将在2024年下半年推出Blackwell B100，AI领域的竞争预计将更加激烈。
