nvidia h100 规格
nvidia 下一代 ai 的一些细节在发布前一个小时就泄露了。
与传言称基于 hopper 架构的 nvidia h100 将使用 tsmc n5 的传言相反,nvidia 今天宣布其最新的加速器将使用定制的 tsmc n4 工艺技术。关于晶体管数量的谣言也是错误的。这个单片 gpu 由 800 亿个晶体管构成。该芯片具有多达 16896 个用于 sxm 变体的 fp32 cuda 内核和 14592 个用于基于 pcie 的型号的内核。
nvidia h100 具有带宽为 3 tb/s 的 hbm3 内存,是 a100 的 1.5 倍。这款下一代加速器具有 80gb 的高带宽内存。不过,该技术将取决于变体,sxm 型号的 hbm3 额定速度为 3tb/s,而基于 pcie 的 h100 gpu 的 hbm2e 额定速度为 2tb/s。
在性能方面,nvidia 声称 fp64、tf32、fp16 的计算能力是 a100 的 3 倍,而 fp8 的计算能力是 a100 的 6 倍。
加速器将使用 pcie gen5 或 sxm 外形尺寸。后者的 tdp 为 700w,正好比 a100 高出 300w。
nvidia 今天还推出了两个基于 arm 的 grace cpu 平台。一个采用 grace cpu 与 hopper gpu 相结合,具有 600gb 内存,而另一个采用两个 grace cpu,共有 144 个内核。它将配备 lpddr5x 内存。两款 grace superchips 都将在 2023 年上半年上市。
原创文章,作者:校长,如若转载,请注明出处:https://www.yundongfang.com/yun141387.html