基礎知識

概要
構成要素
リファレンス
アーキテクチャ
NVIDIA
SuperPOD
導入事例
関連コラム
FAQ

概要

近年、目覚ましい進歩を遂げている生成AIは、様々な分野に革新をもたらす可能性を秘めています。「gpt-oss:120B」や「Qwen3-Coder 480B」などの膨大なパラメータ数を持つ生成AIの学習・推論をさらに加速させるためには、これまでの常識を覆すより多くの計算リソースが求められます。

そのため、複数のGPUサーバー・ストレージを高速ネットワークで接続することで圧倒的な処理能力を実現する「GPUクラスタ」に注目が集まっています。

GPUクラスタ（GPU Cluster）とは

右図のように多数のGPUサーバー（ノード）をネットワークで接続し、それぞれに搭載されたGPUを協調して動かすシステムのことです。
GPUクラスタは「GPUサーバーの集団」であり、巨大なAIやHPCの計算を並列処理で可能にする基盤です。

GPUクラスタを活用することで、1台のGPUサーバーだけでは扱えない大規模パラメータモデルや、複雑なAIアルゴリズムを効率的に学習・推論できるようになります。

構成要素

消費電力が高く発熱量の大きなGPUクラスタを運用するためには、設置環境となるファシリティも綿密に検討する必要があります。さらに、外部ネットワークへの接続やセキュリティの考慮も欠かせません。
自社独自のデータセンター、ネットワークサービスを提供するNTTPCは、GPUサーバーの電源管理、冷却方式（空冷 or 水冷）、外部ネットワーク接続、セキュリティ監視など、インフラ管理のためのナレッジも豊富に有しています。
また、利用状況に応じて必要な分だけリソースを活用でき、運用管理まで一任できるGPUプライベートクラウド™の提供も行っています。

NTTPCは、ミッションクリティカルな商用サービスから、高いパフォーマンスが求められる研究開発基盤に至るまで、用途・予算に合わせて、客観的にマルチメーカー・マルチベンダーを比較し、適切なインフラの設計・構築を行っています。

NTTPC取り扱いメーカー（一例）

and more

GPUクラスタの標準設計モデル　― リファレンスアーキテクチャ

AI導入が加速する昨今、その土台となるGPUクラスタにも高い可用性・導入の容易さ・安定稼働が求められています。
しかし、GPUクラスタの設計には、「各GPUノードのスペックをどう見積もるか」「GPUノード間をどのように接続するか」など、膨大な検討が必要です。各企業が独自にGPUクラスタをゼロから設計・構築するのは大きな負担であり、技術的ハードルも高いのが実情です。

そこでNVIDIAでは、“GPUクラスタの設計図”ともいえる「リファレンスアーキテクチャ」を公開しています。
これは、NVIDIAとパートナー企業が共同で検証し発表した構成例であり、性能や信頼性を両立できる標準設計モデル（ベストプラクティス）です。

このアーキテクチャでは、NVIDIA GPUや高速ネットワーク（InfiniBand / NVLink）、さらにCUDAやNVIDIA AI Enterpriseといったソフトウェアスタックを適切に組み合わせ、パフォーマンス・拡張性・信頼性を兼ね備えた設計を提示しています。

企業はこのリファレンスアーキテクチャに沿って導入を進めることで、複雑なパターンの検証や個別設計プロセスを省略し、短期間でスムーズにAIインフラ基盤を立ち上げることができます。
NTTPCは、NVIDIA が定めるリファレンスアーキテクチャ（BasePOD／SuperPOD）に準拠した GPU クラスタ導入をワンストップで支援しています。

参考：https://www.nvidia.com/ja-jp/solutions/ai-factories/validated-design/

リファレンスアーキテクチャを採用するメリット

スケールとパフォーマンス

LLM/Gen AIトレーニングに最適化されており、微調整、エンドツーエンドの推論、コンピューティング、ネットワーク、ストレージソリューションと連携
効率性と弾力性

エンドツーエンドでテストされたモジュール式で、NVISまたはNVIDIAパートナーによる導入により、より迅速な実現が可能
安全なインフラストラクチャ

最速の導入時間で安全なマルチテナント環境を実現

リファレンス設計の代表例　― NVIDIA DGX SuperPOD / BasePOD

NVIDIA が定義したGPUクラスタにおけるリファレンスアーキテクチャは、「NVIDIA DGX SuperPOD™」および「NVIDIA DGX BasePOD™」として公開されています。

これらは、NVIDIA DGX™ プラットフォームを中心に、ネットワーク・ストレージ・冷却などを最適化した“統合 AI インフラストラクチャコンピューターです。

フルスタックAIインフラストラクチャ

すぐに実行できるターンキー AI スーパーコンピューターとして、高性能コンピューティング、ネットワーキング、ストレージ、ソフトウェア統合を最適化した設計です。
開発者の生産性を向上

エンタープライズグレードのクラスタとワークロード管理、コンピューティング、ストレージ、ネットワークインフラストラクチャを高速化するライブラリ、AI ワークロード向けに最適化されたオペレーティングシステムが含まれ、開発者はシステム構築に煩わされることなく本業に集中できます。
NVIDIAにてテストおよび実証済み

実世界のエンタープライズ AI ワークロードで限界まで拡張し、広範にテストされているため、アプリケーションのパフォーマンスについて心配する必要はありません。
AIインフラエキスパートによるサポート

インフラストラクチャのライフサイクル全体でガイダンスとサポートを提供し、AI ワークロードを最高のパフォーマンスで実行できるように、フルスタックをカバーするエキスパートへのアクセスを提供します。

	SuperPOD	BasePOD
規模	数百〜数千ノード規模まで拡張可能	数十ノード規模
用途	エンタープライズレベルの大規模モデル学習やハイブリッド AI/HPC ワークロードに適しています	導入コスト・運用負荷が比較的低く、部門レベルのモデル開発・検証などに適しています
詳細	https://www.nvidia.com/ja-jp/data-center/dgx-superpod/	https://www.nvidia.com/ja-jp/data-center/dgx-basepod/