生成AI/LLM・GPUクラスタ構築・NVIDIA DGX・
Omniverse・GPUサーバーの導入なら
NVIDIAエリートパートナーのNTTPC

NVIDIA B200 Tensor Core GPU 8基搭載

NVIDIA DGX B200

GPUイメージ GPUイメージ

NTTPCが選ばれる理由

NVIDIA認定 エリートパートナー

NVIDIA認定 エリートパートナー

NTTPCは、NVIDIA®のパートナー認定制度NPN (NVIDIA Partner Network)において、「DGX AI Compute Systems 」「Compute」コンピテンシーで最上位レベルの「エリートパートナー」に認定されています。
2025年には、フルスタックエンジニアリングにより幅広い産業分野でAI・デジタルツイン市場を拡大したことが評価され、NVIDIAより国内最高のアワード『Best NPN of the Year』を受賞しました。

生成AI/LLM開発に欠かせないGPUクラスタ基盤の設計・構築ノウハウ

生成AI/LLM開発に欠かせない
GPUクラスタ基盤の
設計・構築ノウハウ

膨大なパラメータ数を持つ生成AI/LLMの学習基盤には、非常に高速な計算処理システムが求められるため、複数台のGPUサーバーによる分散処理が可能な「GPUクラスタ」の実装が必要不可欠です。
大規模なGPUクラスタの構築にはハードウェアからネットワークまで幅広い知識が必要になりNTTPCは、さまざまなお客様へのGPUクラスタ導入実績を誇ります

GPUクラスタ基盤を効率的に運用するインフラ環境をトータルで設計・提供

GPUクラスタ基盤を効率的に運用するインフラ環境をトータルで設計・提供

GPUサーバーの運用には、電力や冷却といったファシリティ面だけでなく、外部ネットワーク接続やセキュリティも含めた総合的な設計が求められます。NTTPCは自社データセンターと豊富なインフラ運用ノウハウを活かし、用途や予算に応じた最適なインフラを構築します。

GPU製品ラインナップ/仕様

下記は当社取り扱いラインナップの一例です。
お客さまの用途に合わせて、適切なGPU製品を提案します。
お気軽にお問い合わせください。



NVIDIA DGX™ Systems

アプライアンス型のスーパーコンピューター
AI開発において最高の性能を発揮できるよう、GPU/CPUを含めたハードウェア構成が統一的に設計されており、DGXに最適化されたミドルウェア/ソフトウェアがプリインストールされています。さらに、NVIDIAエンジニアによるエンタープライズサポートも付与されています。
アカデミックおよびスタートアップ企業向けにお求めやすいプランもありますので、まずはお問い合わせください。

モデル名 NVIDIA DGX GB300 NVIDIA GB300 NVL72 NVIDIA DGX™ B200
NVIDIA DGX GB300 NVIDIA GB300 NVL72 NVIDIA DGX™ B200
GPU NVIDIA Blackwell Ultra ×72 NVIDIA Blackwell Ultra ×72 NVIDIA B200 GPU:8基
CPU Grace-72 コア Neoverse V2 ×36 Grace-72 コア Neoverse V2 ×36 Intel🄬 Xeon🄬 Platinum 8570 Processors x2
計112コア / 2.1GHz(基本) / 4GHz(ターボブースト時)
パフォーマンス FP16性能:350PFLOPS
FP8性能:700PFLOPS
FP4性能:1400PFLOPS
FP64性能:100TFLOPS
FP32性能:6PFLOPS
TF32性能:180PFLOPS
FP16性能:360PFLOPS
INT8性能:23PFLOPS
FP8性能:720PFLOPS
FP6性能:720PFLOPS
FP4性能:1,440PFLOPS *
学習:72PFLOPS
推論:144PTLOPS
システムメモリ 37.9TB 最大40TB 最大4TB
ストレージ - - OS:1.9TB NVMe M.2 x2
内部ストレージ:3.84TB NVMe U.2 x8
ネットワーク ・NVIDIA ConnectX🄬-8 VPI ×72
・200Gb/s InfiniBand / Ethernet  ×18
- ・OSPF Ports serving 8x single-port NVIDIA ConnectX-7 VPI x4
 最大400Gb/s InfiniBand/Ethernet
・dual-port QSFP112 NVIDIA BlueFiled-3 DPU x2
 最大400Gb/s InfiniBand/Ethernet
OS/ソフトウェア ・NVIDIA Mission Control
・NVIDIA AI Enterprise
・NVIDIA DGX OS/Ubuntu
- ・NVIDIA AI Enterprise:最適化されたAIソフトウェア
・NVIDIA Base Command:オーケストレーション、スケジューリング、クラスタ管理
・DGX OS:UbuntuベースのOS
最大消費電力 - - 14.3kW
サイズ - - 幅482.2mm × 高さ444mm(10U) × 奥行897.1mm
* スパース行列演算機能付き

生成AI/LLM(大規模言語モデル)/ディープラーニング推論向けGPU

モデル名 Blackwellアーキテクチャ Hopperアーキテクチャ Ada Lovelaceアーキテクチャ
GB200 B200 B100 GH200 H200 H100 NVL L40S
NVIDIA GB200 NVIDIA B200 NVIDIA B100 NVIDIA GH200 NVIDIA H200 NVIDIA H100 NVL NVIDIA L40S
メモリ 384GB 180GB HBM3E 192GB ・HBM3 :96GB
・HBM3e:144GB
141GB 188GB 48GB
メモリ帯域 最大16TB/s 7.7B/s 最大8TB/s ・HBM3 :4TB/s
・HBM3e:4.9TB/s
4.8TB/s 7.6TB/s 864GB/s
パフォーマンス
倍精度
(FP64)
90 TFLOPS 37 TFLOPS 30 TFLOPS 34 TFLOPS 34 TFLOPS 68 TFLOPS -
単精度
(TF32)
5 PFLOPS* | 2.5 PFLOPS 2.2 PFLOPS 1.8 PFLOPS 989 TFLOPS* | 494 TFLOPS 989 TFLOPS* 1,979 TFLOPS* 91.6 TFLOPS
半精度
(FP16)
10 PFLOPS* | 5 PFLOPS 4.5 PFLOPS 3.5 PFLOPS 1,979 TFLOPS* | 990 TFLOPS 1,979 TFLOPS* 3,958 TFLOPS* 366 TFLOPS* | 183 TFLOPS
FP8 20 PFLOPS* | 10 PFLOPS 9 PFLOPS 7 PFLOPS 3,958 TFLOPS* | 1,979 TFLOPS 3,958 TFLOPS* 7,916 TFLOPS* 1,466 TFLOPS* | 733 TFLOPS
FP6 20 PFLOPS* | 10 PFLOPS 9 PFLOPS 7 PFLOPS - - - -
FP4 40 PFLOPS* | 20 PFLOPS 18 PFLOPS 14 PFLOPS - - - -
消費電力 最大2,700W 最大1,000W 700W 450W~1,000W 最大700W 350-400W x2 350W
主な用途 生成AI/LLM推論 生成AI/LLM推論 生成AI/LLM推論 生成AI/LLM学習・推論/HPC 生成AI/LLM学習・推論/HPC 生成AI/LLM学習・推論/AI・ディープラーニング/HPC AI・ディープラーニング推論/グラフィックス
ベンチマーク Coming Soon! Coming Soon! Coming Soon! HPC Application Performance
詳細仕様 Technical Brief Data Sheet Technical Brief Data Sheet Data Sheet Product Brief Data Sheet

XR/画像生成/ビジュアライズ向けGPU

モデル名 NVIDIA RTX PRO™ 6000 Blackwell NVIDIA RTX PRO™ 5000 Blackwell NVIDIA RTX PRO™ 4500 Blackwell NVIDIA RTX PRO™ 4000 Blackwell NVIDIA RTX 6000 Ada
NVIDIA RTX PRO™ 6000 Blackwell NVIDIA RTX PRO™ 5000 Blackwell NVIDIA RTX PRO™ 4500 Blackwell NVIDIA RTX PRO™ 4000 Blackwell NVIDIA RTX 6000 Ada
GPUアーキテクチャ NVIDIA Blackwell アーキテクチャ NVIDIA Ada Lovelace アーキテクチャ
マルチインスタンスGPU(MIG) 対応(最大4MIG) 対応(最大2MIG) - - -
メモリ 96 GB GDDR7 エラー訂正コード (ECC) 付き 48 GB GDDR7 エラー訂正コード (ECC) 付き 32 GB GDDR7 エラー訂正コード (ECC) 付き 24 GB GDDR7 エラー訂正コード (ECC) 付き 48 GB GDDR6 (ECC 搭載)
メモリインターフェース 512bit 384bit 256bit 192bit -
NVIDIA🄬 CUDA🄬コア 24,064 14,080 10,496 8,960 -
単精度性能 125 TFLOPS *1 - - - -
RTコア性能 380 TFLOPS *1 - - - -
AI性能 4000 AI TOPS *1 *2 - - - -
最大電力消費 400-600W 300W 200W 140W 300W
フォームファクター 4.4” (H) x 10.5” (L) デュアル スロット 4.4” (H) x 10.5” (L) デュアル スロット 4.4” (H) x 10.5” (L) デュアル スロット 4.4” (H) x 9.5” (L) デュアル スロット 4.4" (H) x 10.5" (L) デュアル スロット
ディスプレイコネクタ DisplayPort 2.1 × 4ports DisplayPort 2.1 × 4ports DisplayPort 2.1 × 4ports DisplayPort 2.1 × 4ports Display Port 1.4 x4
サーマルソリューション パッシブ アクティブ アクティブ アクティブ アクティブ
相互接続 PCIe Gen 5 x 16 PCIe Gen 5 x 16 PCIe Gen 5 x 16 PCIe Gen 5 x 16 -
vGPU ソフトウェア - - - - NVIDIA vPC/vApp、NVIDIA RTX 仮想ワークステーション (vWS)
*1 GPU ブーストクロックに基づくピークレート
*2 スパース行列演算機能付き

GPUサーバー

Supermicro、Dell Technologies、日本HP、GIGABYTEなど、各メーカーの製品を取り扱っています。
下記はその一例です

メーカー Supermicro Dell HPE GIGABYTE
モデル名 SYS-221GE-NR PowerEdge XE9680 HPE ProLiant Compute XD680 G292-280
SYS-221GE-NR PowerEdge XE9680 HPE ProLiant Compute XD680 G292-280
GPU ・NVIDIA PCIe: H100 NVL, H100, L40S×4
・NVIDIA® NVLink® Bridge (optional)×4
NVIDIA H100 Tensor Core GPU(SXM5)×8 Intel Gaudi 3 AI アクセラレータ×8 double slot GPU cards×8
CPU ・4th Gen Intel® Xeon® Scalable processors×2
※Future support for the upcoming 5th Gen Intel® Xeon® processors
第 4 世代インテル® Xeon® スケーラブル・プロセッサー
(プロセッサーあたり最大56コア)×2
第5世代 Intel Xeon スケーラブルプロセッサー×2 ・3rd Generation Intel® Xeon® Scalable Processors
 Intel® Xeon® Platinum Processor, Intel® Xeon® Gold Processor, Intel® Xeon® Silver Processor 10nm technology, CPU TDP up to 270W×2
チップセット Intel® C741 Intel® C741 Intel® C741 Intel® C621A Express Chipset
メモリ 4800MHz ECC DDR5 DRAM 2TB(32スロット) 4800 MT/s DDR5 DIMM 4TB(32スロット) ・ DDR5 RDIMMs×24
・8 チャネル DDR5 w/ ECC 5600 MHz
3200/2933/2666 MHz×24
標準ネットワーク ・10GbE BaseT with NVIDIA ConnectX®-7 or Bluefield®-3 DPU 1
・RJ45 1GbE (Dedicated IPMI port)
・OCP 3.0(オプション)
・1GbE LOM(オプション)×2
InfiniBand . Ethernet PCIe , OCP3 ・10Gb/s BASE-T LAN ports (Intel® X710-AT2)×2
・10/100/1000 management LAN
拡張スロット PCIe 5.0 x16 FHFL slot(s)×7 Gen5(x16 PCIe) フル ハイト ハーフ レングス×10 ・ HHHL PCIe Gen5 x16 to PCIe×Switch Complex×8
・ FHHL PCIe Gen5 x16 to PCIe Switch Complex×3
・ FHHL PCIe Gen 5 x16 (storage controller only)
・OCP Ports×2
・PCIe x16 slots (Gen4 x16 bus) for GPUs×8
・PCIe x16 (Gen4 x16 bus) Half-length low-profile slots×2
監視機能 Supermicro Update Manager (NTTPC提供品標準添付) ・iDRAC9
・iDRAC Direct
・iDRAC RESTful API(Redfish対応)
・iDRAC Service Module
・サーバー: HPE iLO6, BMC, Redfish APIs
・iDRAC Direct
・クラスター: HPE Performance Cluster Manager
・Integrated in Aspeed® AST2500
 2D Video Graphic Adapter with PCIe bus interface -
・1920x1200@60Hz 32bpp, DDR4 SDRAM
HDD/SSD ・E1.S NVMe (Hotswap)× 8
・M.2 NVMe or SATA3×2
・最大8 x 2.5インチNVMe/SAS/SATA SSDドライブ(最大122.88 TB)
・最大16 x E3.S NVMeダイレクト ドライブ(最大122.88 TB)
SFF NVME U.3 Read-Intensive / Mixed-Use SSDs and RAID M.2 Boot Drives×8 ・2.5"" hot-swappable HDD/SSD bays×8
・SAS card is required to enable the drive bays
電源 2000W 冗長電源 Titanium Level×3 2800W Titanium AC 200~240 V
またはDC 240 V冗長、ホット スワップ
・3000W @54V (4+2 Redundant), 最大277V input×6
・80 Plus Titanium
3200W 80 PLUS Platinum power supply×2
サイズ 幅438.4mm×高さ88mm×奥行900mm 幅482.00mm×高さ263.20mm(6U)×奥行1008.77mm(ベゼル含む) 5U: 1016L x 448W x 218.9H 幅448mm×高さ87.5mm×奥行800mmm
重量 39.2kg (最大搭載時) 113.30kg 35.96kg -
メーカー保証 Supermicro完成品保証 (NTTPC提供品標準添付) 5年間 ・平日9-16時電話受付・翌営業日修理対応(Basic)
・24時間365日電話受付・翌営業日修理対応(ProSupport)
・24時間365日電話受付・4時間ミッションクリティカル対応(ProSupport Plus)
詳しくはサポート選定ガイドをご覧ください
5年間
平日9-17時電話受付・翌営業日修理対応
3年間
GIGABYTE完成品保証 (NTTPC提供品標準添付)
3年間
オンサイト保守 ・24時間365日オンサイト保守
・平日日勤帯 当日オンサイト保守
・平日日勤帯 翌営業日オンサイト保守ほか
5年間(オプション)
- ・平日9-17時電話受付・翌営業日修理対応(TechCare Basic)
・24時間365日電話受付・翌営業日修理対応(TechCare Essential)
3年/5年間(オプション)
センドバック保守またはオンサイト保守。詳しくは営業へお問い合わせください。

ご活用事例

Customers Voice01

NTT人間情報研究所
NTT人間情報研究所さま

人間中心”のAI共生社会を目指して
日本語に強く、軽量でマルチモーダルな国産LLM
「tsuzumi」の挑戦と将来ビジョン

ChatGPTの登場以降、世界各国で生成AI/LLM(大規模言語モデル)の開発競争が激化しているが、実はここ日本でも「国産LLM」の機運が高まっている。そんなムーヴメントをけん引する代表的な一社がNTTだ。NTT版LLM「tsuzumi」の開発をリードした、NTT人間情報研究所の西田京介氏に話を伺った。

NTT人間情報研究所 上席特別研究員 西田 京介さま

Customers Voice02

SpiralAI
Spiral.AI株式会社さま

人間の技術進化を支える生成AI/LLM
ヒトの分身を生み出す“EQ”重視の「TwinLLM」とは何か
――AIが人間の価値と可能性を拡げる未来

ChatGPTの登場以降、多くの企業で「生成AI」を新たなビジネスチャンスや働き方改革に活用する動きが活発化している。その中でも代表的な技術となる「LLM(大規模言語モデル)」の分野で今、注目を集めているのが2023年3月に創業したばかりの気鋭のAIスタートアップ、Spiral.AIだ。同社はなぜ誕生し、この先どこを目指しているのか。同社 代表取締役の佐々木雄一氏に伺った。

代表取締役 佐々木雄一さま

Customers Voice03

Turing
Turing株式会社

完全自動運転の鍵を握るLLM開発──TuringがNTTPCを選んだ理由

完全自動運転の実現には、人間のように「見たことのない状況」にも柔軟に対応できるAIの存在が欠かせない。Turing株式会社は、そうした課題を解決する鍵として、LLM(大規模言語モデル)を用いた独自のアプローチに挑んでいる。大規模GPUクラスタを構築し、クラウドでは実現できないレベルの開発環境を整備する中で、Turingがパートナーに選んだのがNTTPCコミュニケーションズだ。なぜNTTPCだったのか、Turingの山口祐氏と、構築を支えたNTTPCの大野泰弘氏に話を聞いた。

Turing

納品までのフロー

NTTPCが培った豊富なノウハウと高い技術力を基に、お客さまのご要望に合ったソリューションを提供します。

  1. 01

    ヒアリングヒアリング

    ご用途や導入目的、お使いになるアプリケーションなどをお伺いします。

  2. 02

    提案ご提案

    ご要件に合わせた構成を提案します。
    NTTPC・AIパートナーより、AI導入に向けた要件定義、コンサルティングからお手伝いが可能です。

  3. 03

    お見積・ご契約お見積・ご契約

    他社に負けない低価格で提案します。
    契約形態や商流もご相談に応じ柔軟に対応しますので、お気軽にお問い合わせください。

  4. 04

    納品納品

    超高電力サーバーを運用するための電力・空調設計、クラスタ管理やジョブスケジューラ、オーケストレータなどAIワークロードを効率的に実行するためのソフトウェアセットアップまで対応します。

  5. 05

    保証・保守保証・保守

    ミッションクリティカルな商用サービスから、高いパフォーマンスが求められる研究開発基盤に至るまで、お客様用途にあわせたサポートを提供します。

よくあるご質問

お客さまからよく頂戴するご質問をまとめています。

下記以外の詳細については、
こちらのFAQにまとめています
のでご確認ください。

納期について

納期はどのぐらいかかりますか。
在庫状況により納期は流動的となっています。詳しくは営業担当へお問合せください。
UPSやネットワーク機器、ストレージなど、GPUサーバー以外の付随機器も取り扱っていますか?
はい、UPSやネットワークスイッチ、ファイアウォール、ストレージ等の設計・構築・納品にも対応いたします。
LLMのファインチューニングや推論を実行したいです。どんなGPUが必要ですか?
利用されるLLMのパラメータサイズや、量子化を行うかどうかによっても異なりますが、下記のような考え方が一般的です。
※パラメータ数の単位は[B]=10億で示しています。

ファインチューニング:パラメータ数[●B]の約8倍のGPUメモリが必要(例:13Bパラメータなら104GBメモリ以上)
推論:パラメータ数[●B]の約2倍のGPUメモリが必要(例:13Bパラメータなら26GBメモリ以上)

NVIDIAの場合、BlackwellアーキテクチャGPUがLLMのファインチューニング/推論に特化し、革新的なパフォーマンスを発揮します。

パラメータサイズの大きなモデルの場合、チューニングを行う際は莫大なGPUメモリが必要になるため、マルチGPU構成、マルチノード構成を取ることを推奨しています。

生成AI/LLMのためのGPU基盤について、詳しくは下記のコラムもご参照ください。
生成AI/LLMの開発を加速するGPUクラスタ

保証・保守・交換について

Supermicroサーバーのメーカー保証は何年間有効ですか?
1年間から最大5年間までご要件に応じて選択可能です。また、保証年数の途中延長は不可となります。
Supermicroサーバ―のオンサイト保守にはどのようなメニューがありますか?
  • ・平日営業日9時-17時受付 当日対応
  • ・平日営業日9時-17時受付 翌営業日対応
  • ・24時間365日受付 当日対応
上記以外をご要望の際は、営業担当へご相談ください。
ページトップへ

WEBですぐにお見積り

筐体・パーツを
選ぶだけ

GPUサーバー 見積シミュレーター 筐体・パーツの写真

GPUサーバー
見積シミュレーター

弊社Webサイトでは、利便性の向上や利用状況の分析などのためにCookieを使用しています。弊社のCookie使用についてはCookieポリシーをご参照のうえ、Cookieの使用に同意いただける場合は「同意する」ボタンを押してください。同意いただけない場合は、ブラウザのクッキーの設定を無効化してください。

同意する