
由于AI火爆,NVIDIA的AI显卡现在是供不应求,其中高阶的A100、H100尤其抢手,厂商都是大量下单,而NVIDIA也在加急下单,最近更是找到了外援,产能大增30%。

NVIDIA的高阶GPU采用了台积电的7nm、5nm制程代工,但是产能瓶颈不在先进制程上,而是所用的Cowos先进封装上,此前也是依赖台积电,但后者的产能提升有限,还有AMD等公司的订单抢产能。
最新消息称,联电也开始为NVIDIA提供外援了,7月份起每个月增加3000片晶圆的Cowos中间层产能,然后再有另一家封测大厂Amkor安靠封装,三方的合作使得A100、H100的整体产能提升了30%。
供应量上来了,A100、H100等显卡的供应情况应该会有所缓解,下半年有望解决加价抢购的麻烦。
H100基于GH100 GPU核心,定制版台积电4nm工艺制造,800晶体管,内置18432个CUDA核心、576个张量核心、60MB二级快取,支持6144-bit HBM高带宽内存,支持PCIe 5.0。
性能方面,FP64/FP32 60TFlops(每秒60兆次),FP16 2000TFlops(每秒2000兆次),TF32 1000TFlops(每秒1000兆次),都三倍于A100,FP8 4000TFlops(每秒4000兆次),六倍于A100。