作者 | 虞景霖
(相关资料图)
编辑 | 杨逍
8 月 8 日,黄仁勋重返 SIGGRAPH 发表演讲,宣布即将推出下一代 GH200 Grace Hopper 超级芯片平台。该平台基于全新的 Grace Hopper 超级芯片,搭载全球首款 HBM3e 处理器,是专为加速计算和人工智能时代打造的。
此前,英伟达(NVIDIA)在 3 月已推出了 GH2000 Grace Hopper 超级芯片,预计在 5 月投入全面生产。
如今,上一代还未量产上市,英伟达就推出了新版本的 GH2000,和上一版一样,新版也采用了 72 核 Grace CPU 和 Hopper GPU。变化是采用了更高级的内存 HBM3e,替换了此前版本配备的是 96GB HBM3。
HBM3e 内存是一种新型的高带宽内存技术,可以在更小的空间内提供更高的数据传输速率。它的容量为 141GB,带宽为每秒 5TB,能分别达到 H100 的 1.7 倍和 1.55 倍。
较上一版 GH2000 相比,新型号 GH2000 的内存容量增加了约 50%,带宽增加了 25% 以上。
此外,在发布会上,英伟达宣布推出下一代 GH200 Grace Hopper 超级平台 Superpod,借助英伟达的 NVLink 互联技术,它叠加了两块 DGX GH200,拥有 256 个 GH200 Grace Hopper 芯片和 144 TB 的共享内存。
怎么理解这款超级计算机的性能呢?假设用 1 亿美元预算打造一个超级计算机,以 8800 组 x86 架构 CPU 执行 Llama 2 人工智慧模型、Vector DB 向量资料库、SDXL 人工智慧图像生成模型所对应算力作为 1 倍计算基础,并且必须花费 5 兆瓦 ( mW ) 电力损耗情况下,若采用 GH200 Grace Hopper Superchip,可以在发挥 12 倍算力的同时将电力损耗降低至 3 兆瓦,较单纯的 CPU 运作模式能源使用效率提高了 20 倍。
目前配备 HBM3 内存的 GH200 Grace Hopper 超级芯片已经开始生产,预计 9 月份正式对外销售。配备 HBM3e 内存的 GH200 Grace Hopper 超级芯片平台处于样品测试阶段,预计将于 2024 年第二季度正式推出。未来,两者将在市场上共存,但后者定价更高。
英伟达介绍,配备 HBM3e 内存的新款 Grace Hopper 超级芯片平台可以完全兼容英伟达的 MGX 服务器规范,并且可以与现有的服务器设计直接兼容。