GPU是广泛应用于人工智能模型中的重要零件，价值数十亿美元。 首先，GPU最初是为了在电子游戏和计算机软件中显示3D图像和视频而设计的。 如今，GPU还可以解压视频流。
CPU和GPU具有不同的架构，GPU对于平行运算任务更有效率，而CPU则更适合于序列任务。 CPU最适合执行一般任务，而GPU最适合处理复杂任务。
CPU由大约8至6个核心组成，而GPU由成千上万个微小核心组成，可以平行工作以完成任务。 这使它们适合需要同时执行大量作业的任务。 GPU通常有两种类型：独立芯片，作为大型电脑的附加卡使用，以及与CPU结合在一起形成一个芯片包的GPU。 这些都可以在像PlayStation 5这样的游戏主机中找到。 值得注意的是，GPU具有自己的控制逻辑，可以独立于CPU运行，尽管它们通常与CPU一起工作完成各种任务。
那么GPU在人工智能中如何应用呢？ 大多数人工智能技术以矩阵乘法的形式工作。 这种技术使用数学运算来乘以大数字，并将他们相加求和。 这些类型的函数与GPU的平行工作方式类似，因此它们可以很容易地由GPU执行。 GPU 中的核心数量正在增加，因此其速度也在提高。
GPU如何驱动AI革命
GPU设计用于加速计算任务，但也有一些加速器专为加速机器学习任务而设计。 制造这些加速器的公司中，有些曾经制造传统GPU。 现在，他们已在机器学习设计方面取得进展，被称为数据中心GPU。 数据中心GPU和AI加速器比传统GPU具有更多的存储器。 因此，数据中心GPU更适合于大型人工智能模型。 为了处理像ChatGPT这样的大型人工智能模型，需要将多个数据中心GPU结合起来形成强大的运算系统。 这也需要复杂的软件来处理所有的计算能力。
但CPU也在执行大量功能。 许多最新的CPU都具有这可以提高网络的性能和可靠性的能力。 要训练AI模型，仍然需要大型GPU，并且应该为机器学习算法设计专门的加速器。 但是，开发专门的AI加速器需要大量工程资源，对于一般消费者来说成本太高。
