世界最速の HBM3e メモリでスーパーチャージされた NVIDIA Hopper H200 GPU、Grace Hopper スーパーチップ Power Jupiter スーパーコンピューター

NVIDIA は、Micron の世界最速の HBM3e メモリを搭載した新しい H200 Hopper GPU を発表しました。新しい AI プラットフォームに加えて、NVIDIA は、現在 Exaflop Jupiter スーパーコンピューターに搭載されている Grace Hopper スーパーチップによるスーパーコンピューターの大規模な勝利も発表しました。

NVIDIA は、アップグレードされた Hopper GPU、Grace Hopper スーパーチップ、スーパーコンピューターの勝利により AI の勢いを築き続けています

NVIDIA の H100 GPU は、これまでのところ業界で最も需要の高い AI チップですが、グリーン チームは顧客にさらに高いパフォーマンスを提供したいと考えています。HGX H200 は、H200 Tensor コア GPU を搭載した AI 用の最新の HPC およびコンピューティング プラットフォームです。これらの GPU は、ハードウェアとソフトウェアの両方で最新の Hopper 最適化を備えており、これまでで世界最速のメモリ ソリューションを提供します。

NVIDIA H200 GPU には、最大 141 GB のメモリ容量と、NVIDIA A100 と比較して 2.4 倍の帯域幅と 2 倍の容量である最大 4.8 TB/秒の帯域幅を備えた Micron の HBM3e ソリューションが搭載されています。この新しいメモリ ソリューションにより、NVIDIA は、Llama 2 (700 億パラメータ LLM) などのアプリケーションにおいて、H100 GPU と比較して AI 推論パフォーマンスをほぼ 2 倍にすることができます。

ソリューションに関しては、NVIDIA H200 GPU は、4 ウェイおよび 8 ウェイ GPU 構成の幅広い HGX H200 サーバーで利用可能になります。HGX システム内の H200 GPU の 8 ウェイ構成は、最大 32 ペタフロップスの FP8 コンピューティング パフォーマンスと 1.1 TB のメモリ容量を提供します。

NVIDIA H200 GPU: HBM3e メモリでスーパーチャージ、2024 年第 2 四半期に発売

GPU は既存の HGX H100 システムとも互換性があるため、顧客はプラットフォームをアップグレードしやすくなります。ASUS、ASRock Rack、Dell、Eviden、GIGABYTE、Hewlett Packard Enterprise、Ingrasys、Lenovo、QCT、Wiwynn、Supermicro、Wistron などの NVIDIA パートナーは、2024 年の第 2 四半期に H200 GPU が入手可能になると、最新のソリューションを提供する予定です。

NVIDIA Grace Hopper スーパーチップ パワー 1 エクサフロップの Jupiter スーパーコンピューター

H200 GPU の発表に加えて、NVIDIA はGrace Hopper スーパーチップ (GH200)を搭載した主要なスーパーコンピューターの勝利も発表しました。このスーパーコンピューターは Jupiter として知られ、EuroHPC 共同事業の一環としてドイツの Forschungszentrum Jülich 施設に設置され、Eviden と ParTec と契約されます。スーパーコンピューターは、材料科学、気候研究、創薬などに使用される予定です。これは、NVIDIA が 11 月に発表した 2 番目のスーパーコンピューターでもあり、前回のスーパーコンピューターはIsambard-AIであり、最大 21 エクサフロップスの AI パフォーマンスを提供します。

構成の点では、Jupiter スーパーコンピューターは、完全水冷アーキテクチャを利用した Eviden の BullSequana XH3000 をベースにしています。合計 24,000 個の NVIDIA GH200 Grace Hopper スーパーチップを誇り、これらは同社の Quantum-2 Infiniband を使用して相互接続されています。各 Grace CPU に 288 個の Neoverse コアが搭載されていることを考慮すると、Jupiter の CPU 側だけでほぼ 700 万個の ARM コア (正確には 6,912,000) が搭載されていると考えられます。

パフォーマンス指標には、90 エクサフロップスの AI トレーニングと 1 エクサフロップスの高性能コンピューティングが含まれます。このスーパーコンピューターは 2024 年に設置される予定です。全体として、これらは、強力なハードウェアおよびソフトウェア テクノロジで AI の世界をリードし続ける NVIDIA によるいくつかの主要なアップデートです。