AMD公布强化AI与大型语言模型效能的AMD ROCm 5.6开放软件平台,并预计于2023年内提供特定RDNA 3架构绘图卡与显卡使用

虽然目前提到AI与大型语言模型LLM,多半会直觉联想到目前在相关领域超高市占的NVIDIA加速平台,不过竞争对手之一的AMD当然也不可能坐以待毙,也希冀通过其开放软件平台ROCm协助开发者利用AMD硬件提供绝佳的AI与LLM效能; AMD宣布最新版本的ROCm 5.6,着重在强化AI与LLM领域的工作负载; 且除了专业级的CDNA架构Instinct加速器产品以外,AMD也宣布2023年将为特定AMD RDNA 3架构的Radeon Pro绘图卡与Radeon RX显示卡提供ROCm支持。

ROCm 5.6提供多项改革,包括将Hugging Face单元测试套件整合至ROCm QA,以及在PyTorch 2.0传感器模式对OpenAI Triton的增量支持,与通过ROCm对PyTorch、TensorFlow与JAX提供OpenXLA支持,使ROCm可支持更广泛的AI相关社群。

AMD公布强化AI与大型语言模型效能的AMD ROCm 5.6开放软件平台,并预计于2023年内提供特定RDNA 3架构绘图卡与显卡使用

▲ AMD ROCm未来将扩大到RDNA 3架构的绘图卡与显卡,使更多开发者能先以较低的门槛进行相关开发

另外对于 HPC 应用程序, ROCm 5.6 导入对快速傅立叶转换( FFT )基础线性代数程序集( BLAS )与计算机 solver 等多个数学函式库效能提升,同时增强包括 ROCgdb CPU-GPU 整合除错器、 ROCm 分析工具与文件等地 ROCm 开发与部署工具。

AMD预计在未来数月对框架与后端编译器提供进一步的优化,包括MLIR基础架构改进,并强化AMD对OpenAI Triton、OpenXLA编译器的支持,后续AMD也将于Hugging Face的AMD Hub看到更多基于AMD解决方案优化的开源AI模型。

另外在针对绘图卡与显卡的ROCm支持部分,预计在2023年秋季陆续支持基于RDNA 3架构的显卡,首波包括48GB Radeon PRO W7900绘图卡与24GB Radeon RX 7900XTX显示卡,后续进一步扩大支持更多显卡与扩充功能,此举将有助于更多开发者可通过价格门槛相较加速卡较低的绘图卡与显示卡在小型工作站、消费级PC 平台建构基于AMD ROCm的运算平台,后续成果亦可转移到AMD Instnict加速器。

(0)
老哥老哥

相关推荐

发表回复

您的电子邮箱地址不会被公开。 必填项已用 * 标注