NVIDIA DGX Systems
「NVIDIA DGX™ Systems」は、アプライアンス型のスーパーコンピューターです。
AI/ディープラーニングにおいて最高の性能を発揮できるよう、GPU/CPUを含めたハードウェア構成が統一的に設計されており、DGXに最適化されたミドルウェア/ソフトウェアがプリインストールされています。さらに、NVIDIAエンジニアによるエンタープライズサポートも付与されています。
これにより、GPUプラットフォームの設計/構築に時間をかけることなく、スピーディかつ容易な研究開発・サービス運用を行うことが可能になります。
NVIDIA DGX™ H100
Hopperアーキテクチャを採用した「NVIDIA H100 GPU」を8基搭載するAI/ディープラーニング向けアプライアンス。32PetaFLOPS(FP8の場合)のパフォーマンスを発揮できる世界最高性能のAIエンタープライズインフラストラクチャです。
- NVIDIA H100 GPU:8基
- 合計GPUメモリ:640GB
- GPU間の双方向帯域幅:7.2TB/秒(NVIDIA 🄬 NVSwitches™:4基)
- デュアルCPU
- NVIDIA CONNECTX®-7 x8 および、NVIDIA BLUEFIELD® DPU 400Gb/秒 ネットワーク インターフェイス x2(ピーク時の双方向ネットワーク帯域幅 1TB/秒)
- NVMe SSD:最大30TB
- ソフトウェア:NVIDIA Base Command™ / NVIDIA AI Enterprise プリインストール
NVIDIA DGX™ H100
項目 | 仕様 |
GPU | NVIDIA H100 Tensor Core GPU(80GB)x 8 |
GPUメモリ | Total:640GB |
演算性能 | FP8:32PetaFLOPS |
CPU | Dual Intel® Xeon® Platinum 8480C Processors 112 Cores total, 2.00 GHz (Base),3.80 GHz (Max Boost) |
メモリ | 2TB |
ストレージ(For OS) | M.2 NVMe SSD 1.92TB x 2 |
ストレージ(For Data) | U.2 NVMe SSD 3.84TB x 8 |
NVIDIA ® NVSwitch™ | 4 |
ネットワーク | OSFP ports serving x4 single-port NVIDIA ConnectX-7 x8 400Gb/s InfiniBand/Ethernet dual-port NVIDIA BlueField-3 DPUs VPI x2 400Gb/s InfiniBand/Ethernet 200Gb/s InfiniBand/Ethernet |
OS/ソフトウェア | 【プリインストール】 ・DGX OS(Ubuntuベース) ・DGX software stack(DGXに最適化されたドライバ・パッケージを含む) ・NVIDIA Base Command™ ・NVIDIA AI Enterprise 【オプション】 ・Ubuntu or Red Hat Enterprise Linux ・DGX software stack(必要なソフトウェアのみ個別追加可能) |
最大消費電力 | 11.3kW |
重量 | 170.45kg(Packaged system weight) |
サイズ | 幅482.2mm × 高さ345mm × 奥行897.1mm |
NVIDIA DGX™ A100
分析からトレーニング、推論に至るまで、あらゆる AI インフラストラクチャのためのユニバーサル システムです。6U のフォームファクタに5PetaFLOPSの AI パフォーマンスを詰め込み、計算処理密度の新しい水準を確立します。
- NVIDIA A100 GPUを8基搭載
- GPU間の帯域幅: 600GB/秒
- 64コア AMD CPUを2基搭載
- NVIDIA ® NVSwitch™を6基搭載
- 9 MELLANOX CONNECTX-6 VPI HDR INFINIBAND/200 GB イーサネット(ピーク時の双方向の帯域幅: 450 GB/秒)
- 標準15TB 最大30TBのPCIe Gen4 NVMe SSD
- NVIDIA Base Command™ / NVIDIA AI Enterpriseプリインストール
NVIDIA DGX™ A100
項目 | 仕様 | |||
320GBモデル ConnectX-6 | 320GBモデル ConnectX-7 | 640GBモデル ConnectX-6 | 640GBモデル ConnectX-7 | |
GPU | NVIDIA A100 GPU(40GB)x 8 | NVIDIA A100 GPU(80GB)x 8 | ||
GPUメモリ | Total:320GB | Total:640GB | ||
演算性能 | AI:5PetaFLOPS INT8精度:10PetaOPS |
|||
CPU | Dual AMD Rome7742 総計 128 コア 2.25 GHz (ベース)3.4 GHz (最大ブースト) |
|||
メモリ | 1TB | 2TB | ||
ストレージ(For OS) | M.2 NVMe SSD 1.92TB x 2 | |||
ストレージ(For Data) | U.2 NVMe SSD 3.84TB x 4 | U.2 NVMe SSD 3.84TB x 8 | ||
NVIDIA ® NVSwitch™ | 6 | |||
ネットワーク | Single-Port Mellanox ConnectX-6 VPI Dual-Port Mellanox ConnectX-6 VPI HDR InfiniBand 10 / 25 / 50 / 100 / 200GbE |
Single-Port Mellanox ConnectX-7 VPI Dual-Port Mellanox ConnectX-7 VPI HDR InfiniBand 25 / 50 / 100 / 200 / 400GbE |
Single-Port Mellanox ConnectX-6 VPI Dual-Port Mellanox ConnectX-6 VPI HDR InfiniBand 10 / 25 / 50 / 100 / 200GbE |
Single-Port Mellanox ConnectX-7 VPI Dual-Port Mellanox ConnectX-7 VPI HDR InfiniBand 25 / 50 / 100 / 200 / 400GbE |
ディスプレイ | - | |||
OS/ソフトウェア | NVIDIA Base Command™ 、NVIDIA AI Enterprise、Ubuntu Linux OS、NVIDIA GPUドライバ、CUDA Toolkit、NVIDIA Docker、NVIDIA Container Toolkit、Mellanox Software Tools など 詳しくはこちら |
|||
最大消費電力 | 6.5kW | |||
重量 | 123kg | |||
サイズ | 幅最大482.3mm × 高さ264.0mm × 奥行最大897.1mm |
NVIDIA DGX Station™ A100
2.5PFLOPSのAI性能を誇る NVIDIA DGX Station™ A100 は、NVIDIA NVLink® にて相互接続された4基のNVIDIA® A100 Tensor コア GPUと、最大320GBのGPUメモリを搭載したワーキンググループサーバー。オフィスや研究室など、あらゆるロケーションでの利用に適したAIアプライアンスです。
- NVIDIA A100 GPUを4基搭載
- 4基のGPUが高速相互接続するNVLinkテクノロジー
- 64コア AMD CPU搭載
- 100V電源で動作
NVIDIA DGX Station™ A100
項目 | 仕様 |
320GBモデル | |
GPU | NVIDIA A100 GPU(80GB)x 4 |
GPUメモリ | Total:320GB |
演算性能 | AI:2.5PetaFLOPS INT8精度:5PetaOPS |
CPU | AMD Rome 7742(64コア) |
メモリ | 512GB |
ストレージ(For OS) | M.2 NVMe SSD 1.92TB x 1 |
ストレージ(For Data) | U.2 NVMe SSD 7.68TB x 1 |
ネットワーク | Dual-port 10Gbase-T Ethernet LAN Single-port 1Gbase-T Ethernet LAN Ethernet BMC management port |
ディスプレイ | 4 GB GPU memory, 4x Mini DisplayPort |
OS/ソフトウェア | Ubuntu Linux OS、NVIDIA GPUドライバ、CUDA Toolkit |
最大消費電力 | 1.5 kW at 100–120 Vac |
音圧レベル | <37dB |
重量 | 43.1 kg |
サイズ | 幅256mm×高さ639mm×奥行518mm |
Omniverse用アプライアンス
NVIDIA OVX
デジタルツイン環境を実現するプラットフォーム「NVIDIA Omniverse™ Enterprise」のために最適化されたアプライアンス。
「NVIDIA A40 GPU」を8基搭載することで高いレンダリング性能を発揮。また高速ストレージ、低遅延ネットワーキングを組み合わせることで、建物や工場、都市全体、さらには世界をモデル化するための複雑なシミュレーションを可能にします。
- NVIDIA A40 GPU:8基
- NVIDIA CONNECTX®-6Dx 200Gbps NIC x3
- システムメモリ:1TB