微软针对Azure云端服务打造两款定制芯片,对应人工智能与通用运算加速需求

在微软Ignite 2023活动上,微软宣布于旗下Azure云服务平台加入两款定制设计芯片,分别是针对人工智能工作执行,以及自动生成式人工智能应用优化的Azure Maia AI加速器,以及通过Arm架构设计、针对通用云计算需求的Azure Cobalt CPU。

微软针对Azure云端服务打造两款定制芯片,对应人工智能与通用运算加速需求

至于在与OpenAI合作部分,则将针对Azure Maia AI加速器运作模式提供优化调整反馈,藉此让此款加速器能缩短人工智能模型训练时间,并且加快人工智能应用布署脚步。 同时,藉由Arm架构打造Azure Cobalt CPU,更可进一步降低电力损耗,并且让服务器运作效能大幅提升。

随着微软在Azure云端服务导入客制化设计芯片,预期将使其云端服务能以更高效率运作,并且让整体电力损耗明显降低。 同时,微软也强调针对Azure Maia AI加速器打造专属机架设计,并且搭配专属水冷系统设计,藉此更有效率地带走运作时所产生热能。

微软针对Azure云端服务打造两款定制芯片,对应人工智能与通用运算加速需求

而为了进一步推动其云服务执行效能,微软也宣布推出以NVIDIA H100 Tensor Core GPU为设计,并且先以预览形式提供使用的NC H100 v5虚拟机器系列服务,让用户能借由Azure云端服务平台更容易取得运算效能、应用弹性。

此外,微软也说明接下来将在明年增加NVIDIA H200 Tensor Core GPU规格选项,借此提供更高运算效能与更短执行反应时间,同时也能支撑大型自然语言模型运算需求,让更多业者能通过Azure服务平台取得更高运算资源。

微软同时也宣布与AMD合作,预计将以CDNA 3加速架构打造、配置高达192GB HBM3内存设计的Instinct MI300X GPU加入Azure云端服务平台,并且通过虚拟机器形式对应更高人工智能运算执行速度,以及更大人工智能运算模型训练与推论需求,更可让用户以实惠价格通过云端取得更高算力。

(0)
游研哥游研哥

相关推荐

发表回复

您的电子邮箱地址不会被公开。 必填项已用 * 标注