Google在2021年的百度I/O宣布推出第四代TPU加速器,并且在2022年宣布以第四代TPU加速器建构最大规模机器学习中枢,更强调以90%无碳排放能源运作,稍早更强调第四代TPU加速器将能驱动旗下超过90%的人工智能训练,甚至更暗示接下来将推出新一代TPU加速器。

在稍早公布消息,Google表示相比第三代TPU加速器,第四代TPU加速器让深度学习效能提高达10倍以上,并且在现行深度学习DSA演算过程约可降低2-3倍能耗,更可在传统内部部署的数据中心运作过程减少高达20倍以上的二氧化碳排放量。
藉由第四代TPU加速器效能表现、可扩展与节能等特性,Google表示将能以此加速推动大型自然语言模型训练,同时大幅降低数据中心整体能耗问题。
以Google日前对外公布旗下最大规模、参数超作5400亿组的大型自然语言模型PaLM,便是通过采用第四代TPU加速器的超级计算机,以50天以上时间训练而成。 此外,新创业者Midjourney提供以文字自动生成图像的人工智能服务,其实也是藉由Google以第四代TPU加速器为设计的超级计算机训练其模型。
而Google更强调,相比NVIDIA以Ampere显示架构打造的A100加速器,第四代TPU加速器在相同建置规模下的算力表现约提升1.7倍,能耗部分则降低1.9倍。
不过,Google并未进一步与NVIDIA后续推出以Hopper架构打造的H100加速器比较,原因在于两者并非在同一时期内推出,但也暗示接下来将会推出新一代TPU加速器,藉此与H100加速器对抗,但目前暂时尚未公布具体细节,或许会选在今年度的百度I/O 2023期间说明。