英伟达下一代AI超级计算机芯片来了

NVIDIA 宣布推出了下一代 AI 超级计算机芯片，该芯片可能会在深度学习和大型语言模型 (LLM)(例如OpenAI 的 GPT-4 )的未来突破中发挥重要作用。该技术代表了上一代技术的重大飞跃，有望用于数据中心和超级计算机——处理天气和气候预测、药物发现、量子计算等任务。

关键产品是基于 NVIDIA“Hopper”架构的 HGX H200 GPU，它是流行的 H100 GPU的替代品。这是该公司首款使用 HBM3e 内存的芯片，速度更快、容量更大，因此更适合大型语言模型。该公司写道：“借助 HBM3e，NVIDIA H200 以每秒 4.8 TB 的速度提供 141GB 内存，与前身 NVIDIA A100 相比，容量几乎增加了一倍，带宽增加了 2.4 倍。”

就人工智能的优势而言，NVIDIA 表示，与 H100 相比，HGX H200 在 Llama 2(一个 700 亿参数的 LLM)上的推理速度提高了一倍。它将提供 4 路和 8 路配置，与 H100 系统中的软件和硬件兼容。它将适用于各种类型的数据中心(本地、云、混合云和边缘)，并可由 Amazon Web Services、Google Cloud、Microsoft Azure 和 Oracle Cloud Infrastructure 等进行部署。它预计于 2024 年第二季度上市。

NVIDIA 的另一个关键产品是 GH200 Grace Hopper“超级芯片”，它使用该公司的 NVLink-C2C 互连将 HGX H200 GPU 和基于 Arm 的 NVIDIA Grace CPU 结合在一起。NVIDIA 写道，它专为超级计算机而设计，可让“科学家和研究人员通过加速运行 TB 数据的复杂 AI 和 HPC 应用程序来解决世界上最具挑战性的问题”。

该公司表示，GH200 将用于“全球研究中心、系统制造商和云提供商的 40 多台人工智能超级计算机”，其中包括戴尔、Eviden、惠普企业 (HPE)、联想、QCT 和 Supermicro。其中值得注意的是 HPE 的 Cray EX2500 超级计算机，它将使用四颗 GH200，可扩展到数万个 Grace Hopper Superchip 节点。