NTTPCが選ばれる
理由

膨大なパラメータ数を持つ生成AI/LLMの学習基盤には、非常に高速な計算処理システムが求められるため、複数台のGPUサーバーによる分散処理が可能な「GPUクラスタ」の実装が必要不可欠です。

大規模なGPUクラスタの構築(※図1)は、サーバー単体の設計だけでなく、ノード間通信を高速化するためのインターコネクトやロスなくストレージと接続する技術、複数ユーザでクラスタを共有するためのマネジメントツールなど、ハードウェアからソフトウェア、ネットワークまで、多方面のエンジニアリングスキルを総動員した、いわば“総合格闘技”といえます。

単に複数のGPUを接続するだけでは、パケットロスやストレージ読み書き時の遅延などの要因により、クラスタ全体のパフォーマンスを引き出すことはできません。チューニングを行わない場合、性能は85%程度まで低下してしまう(※図2)とも言われています。

統合的なクラスタ設計・構築ノウハウを保有するNTTPCエンジニアが、大規模かつ複雑なジョブを実行可能なAI開発基盤をお求めのお客さまニーズに寄り添い、適切なチューニングを行うことで、GPUクラスタのパフォーマンスを最大化します。

NTT人間情報研究所さまが開発した国産LLM「tsuzumi」のGPUプラットフォームをはじめ、さまざまなお客様へのGPUクラスタ導入実績を誇ります。
実績に裏打ちされた設計・構築ノウハウを持つNTTPCにお任せください。

消費電力が高く発熱量の大きなGPUサーバーを運用するためには、設置環境となるファシリティも綿密に検討する必要があります。さらに、外部ネットワークへの接続やセキュリティの考慮も欠かせません。

自社独自のデータセンター、ネットワークサービスを提供するNTTPCは、GPUサーバーの電源管理、冷却方式（空冷 or 水冷）、外部ネットワーク接続、セキュリティ監視など、インフラ管理のためのナレッジも豊富に有しています。
運用管理をお任せいただけるプライベートクラウド型での提供も行っています。

ミッションクリティカルな商用サービスから、高いパフォーマンスが求められる研究開発基盤に至るまで、用途・予算に合わせた適切なインフラの設計・構築を行います。