NTTPCが選ばれる理由
NVIDIA認定 エリートパートナー
NTTPCは、NVIDIA®のパートナー認定制度NPN (NVIDIA Partner Network)において、「DGX AI Compute Systems 」「Compute」コンピテンシーで最上位レベルの「エリートパートナー」に認定されています。
2025年には、フルスタックエンジニアリングにより幅広い産業分野でAI・デジタルツイン市場を拡大したことが評価され、NVIDIAより国内最高のアワード『Best NPN of the Year』を受賞しました。
生成AI/LLM開発に欠かせない
GPUクラスタ基盤の
設計・構築ノウハウ
膨大なパラメータ数を持つ生成AI/LLMの学習基盤には、非常に高速な計算処理システムが求められるため、複数台のGPUサーバーによる分散処理が可能な「GPUクラスタ」の実装が必要不可欠です。
大規模なGPUクラスタの構築にはハードウェアからネットワークまで幅広い知識が必要になりNTTPCは、さまざまなお客様へのGPUクラスタ導入実績を誇ります
GPUクラスタ基盤を効率的に運用するインフラ環境をトータルで設計・提供
GPUサーバーの運用には、電力や冷却といったファシリティ面だけでなく、外部ネットワーク接続やセキュリティも含めた総合的な設計が求められます。NTTPCは自社データセンターと豊富なインフラ運用ノウハウを活かし、用途や予算に応じた最適なインフラを構築します。
GPU製品ラインナップ/仕様
下記は当社取り扱いラインナップの一例です。
お客さまの用途に合わせて、適切なGPU製品を提案します。
お気軽にお問い合わせください。
NVIDIA DGX™ Systems
アプライアンス型のスーパーコンピューター
AI開発において最高の性能を発揮できるよう、GPU/CPUを含めたハードウェア構成が統一的に設計されており、DGXに最適化されたミドルウェア/ソフトウェアがプリインストールされています。さらに、NVIDIAエンジニアによるエンタープライズサポートも付与されています。
アカデミックおよびスタートアップ企業向けにお求めやすいプランもありますので、まずはお問い合わせください。
| モデル名 | NVIDIA DGX GB300 | NVIDIA GB300 NVL72 | NVIDIA DGX™ B200 |
|---|---|---|---|
 |
 |
 |
|
| GPU | NVIDIA Blackwell Ultra ×72 | NVIDIA Blackwell Ultra ×72 | NVIDIA B200 GPU：8基 |
| CPU | Grace-72 コア Neoverse V2 ×36 | Grace-72 コア Neoverse V2 ×36 | Intel🄬 Xeon🄬 Platinum 8570 Processors x2 計112コア / 2.1GHz（基本） / 4GHz（ターボブースト時） |
| パフォーマンス | FP16性能：350PFLOPS FP8性能：700PFLOPS FP４性能：1400PFLOPS |
FP64性能：100TFLOPS FP32性能：6PFLOPS TF32性能：180PFLOPS FP16性能：360PFLOPS INT8性能：23PFLOPS FP8性能：720PFLOPS FP6性能：720PFLOPS FP4性能：1,440PFLOPS * |
学習：72PFLOPS 推論：144PTLOPS |
| システムメモリ | 37.9TB | 最大40TB | 2TB |
| ストレージ | - | - | OS：1.9TB NVMe M.2 x2 内部ストレージ：3.84TB NVMe U.2 x8 |
| ネットワーク | ・NVIDIA ConnectX🄬-8 VPI ×72 ・200Gb/s InfiniBand / Ethernet ×18 |
- | ・OSPF Ports serving 8x single-port NVIDIA ConnectX-7 VPI x4 最大400Gb/s InfiniBand/Ethernet ・dual-port QSFP112 NVIDIA BlueFiled-3 DPU x2 最大400Gb/s InfiniBand/Ethernet |
| OS/ソフトウェア | ・NVIDIA Mission Control ・NVIDIA AI Enterprise ・NVIDIA DGX OS/Ubuntu |
- | ・NVIDIA AI Enterprise：最適化されたAIソフトウェア ・NVIDIA Base Command：オーケストレーション、スケジューリング、クラスタ管理 ・DGX OS：UbuntuベースのOS |
| 最大消費電力 | - | - | 14.3kW |
| サイズ | - | - | 幅482.2mm × 高さ444mm（10U） × 奥行897.1mm |
| * スパース行列演算機能付き |
| モデル名 | Blackwellアーキテクチャ | Hopperアーキテクチャ | |||||
|---|---|---|---|---|---|---|---|
| B300 | GB200 | B200 | GH200 | H200 SXM | H200 NVL | H100 NVL | |
 |
 |
 |
 |
 |
 |
 |
|
| メモリ | 最大288GB | 最大186GB | 180GB HBM3E | ・HBM3 ：96GB ・HBM3e：144GB |
141GB | 141GB | 188GB |
| メモリ帯域 | 最大8TB/s | 最大8TB/s | 7.7B/s | ・HBM3 ：4TB/s ・HBM3e：4.9TB/s |
4.8TB/s | 4.8TB/s | 7.6TB/s |
| NVIDIA® NVLink® | 1.8TB/s | - | - | - | - | 900GB/s | - |
| 倍精度 （FP64） |
1.2 TFLOPS | 40 TFLOPS | 37 TFLOPS | 34 TFLOPS | 34 TFLOPS | 30 TFLOPS | 68 TFLOPS |
| 単精度 （TF32） |
72 TFLOPS | 2.5 PFLOPS | 1.25 PFLOPS | 2.2 PFLOPS | 989 TFLOPS* | 494 TFLOPS | 989 TFLOPS* | 60 TFLOPS | 1,979 TFLOPS* |
| 半精度 （FP16） |
4.5 PFLOPS*1 | 2.2 PFLOPS | 5 PFLOPS | 2.5 PFLOPS | 4.5 PFLOPS | 1,979 TFLOPS* | 990 TFLOPS | 1,979 TFLOPS* | 1,671 TFLOPS | 3,958 TFLOPS* |
| FP8 | 9 PFLOPS*1 | 4.5 PFLOPS | 10 PFLOPS | 5 PFLOPS | 9 PFLOPS | 3,958 TFLOPS* | 1,979 TFLOPS | 3,958 TFLOPS* | 3,341 TFLOPS | 7,916 TFLOPS* |
| FP6 | 9 PFLOPS*1 | 4.5 PFLOPS | 10 PFLOPS | 5 PFLOPS | 9 PFLOPS | - | - | - | - |
| FP4 | 18 PFLOPS*1 | 12 PFLOPS | 20 PFLOPS | 10 PFLOPS | 18 PFLOPS | - | - | - | - |
| 消費電力 | 最大1,200W | 最大1,200W | 最大1,000W | 450W～1,000W | 最大700W | 200W~600W | 350-400W x2 |
| 主な用途 | 生成AI/LLM推論、AIファクトリー | 生成AI/LLM推論 | 生成AI/LLM推論 | 生成AI/LLM学習・推論/HPC | 生成AI/LLM学習・推論/HPC | 生成AI/LLM推論 | 生成AI/LLM学習・推論/AI・ディープラーニング/HPC |
| ベンチマーク | 未公開 | Coming Soon! | Coming Soon! |
 HPC Application Performance
|
Coming Soon! |
HPC Application Performance
|
|
| 詳細仕様 | Technical Overview | Technical Brief | Data Sheet | Data Sheet | Data Sheet | Product Brief | Product Brief |
| モデル名 | NVIDIA RTX PRO™ 6000 Blackwell Server Edition | NVIDIA RTX PRO™ 6000 Blackwell Workstation Edition | NVIDIA RTX PRO™ 6000 Blackwell Max-Q Workstation Edition | NVIDIA RTX PRO™ 5000 Blackwell | NVIDIA RTX PRO™ 4500 Blackwell | NVIDIA RTX PRO™ 4000 Blackwell |
|---|---|---|---|---|---|---|
 |
 |
 |
 |
|||
| GPUアーキテクチャ | NVIDIA Blackwell アーキテクチャ | |||||
| マルチインスタンスGPU(MIG) | 対応（最大4MIG） | 対応（最大2MIG） | - | - | ||
| メモリ | 96 GB GDDR7 エラー訂正コード (ECC) 付き | 48 GB GDDR7 エラー訂正コード (ECC) 付き | 32 GB GDDR7 エラー訂正コード (ECC) 付き | 24 GB GDDR7 エラー訂正コード (ECC) 付き | ||
| メモリインターフェース | 512bit | 384bit | 256bit | 192bit | ||
| NVIDIA® CUDA®コア | - | 14,080 | 10,496 | 8,960 | ||
| 単精度性能 | 117 TFLOPS *1 | 125 TFLOPS *1 | 110 TFLOPS *1 | - | - | - |
| RTコア性能 | 354.5 TFLOPS *1 | 380 TFLOPS *1 | 333 TFLOPS *1 | - | - | - |
| ピーク FP4 AI性能 | 3.7 PFLOPS *1 *2 | 4000 AI TOPS *1 *2 | 3511 AI TOPS *1 *2 | - | - | - |
| 最大電力消費 | 600W | 600W | 300W | 300W | 200W | 140W |
| フォームファクター | 4.4” (H) x 10.5” (L) デュアル スロット | 5.4" (H) x 12" (L) デュアル スロット | 4.4” (H) x 10.5” (L) デュアル スロット | 4.4” (H) x 10.5” (L) デュアル スロット | 4.4” (H) x 10.5” (L) デュアル スロット | 4.4” (H) x 9.5” (L) デュアル スロット |
| ディスプレイコネクタ | DisplayPort 2.1 × 4ports | DisplayPort 2.1 × 4ports | DisplayPort 2.1 × 4ports | DisplayPort 2.1 × 4ports | ||
| サーマルソリューション | パッシブ | ダブルフロースルー | アクティブ | アクティブ | アクティブ | アクティブ |
| 相互接続 | PCIe Gen 5 x 16 | PCIe Gen 5 x 16 | PCIe Gen 5 x 16 | PCIe Gen 5 x 16 | ||
| vGPU ソフトウェア | - | - | - | - | ||
| *1 GPU ブーストクロックに基づくピークレート *2 スパース行列演算機能付き |
||||||
GPUサーバー
Supermicro、Dell Technologies、日本HP、GIGABYTEなど、各メーカーの製品を取り扱っています。
下記はその一例です
| メーカー |  |
 |
 |
 |
|---|---|---|---|---|
| モデル名 | SYS-221GE-NR | PowerEdge XE9680 | HPE ProLiant Compute XD680 | G292-280 |
 |
 |
 |
 |
|
| GPU | ・NVIDIA PCIe: H100 NVL, H100, L40S×4 ・NVIDIA® NVLink® Bridge (optional)×4 |
NVIDIA H100 Tensor Core GPU(SXM5)×8 | Intel Gaudi 3 AI アクセラレータ×8 | double slot GPU cards×8 |
| CPU | ・4th Gen Intel® Xeon® Scalable processors×2 ※Future support for the upcoming 5th Gen Intel® Xeon® processors |
第 4 世代インテル® Xeon® スケーラブル・プロセッサー （プロセッサーあたり最大56コア）×2 |
第5世代 Intel Xeon スケーラブルプロセッサー×2 | ・3rd Generation Intel® Xeon® Scalable Processors Intel® Xeon® Platinum Processor, Intel® Xeon® Gold Processor, Intel® Xeon® Silver Processor 10nm technology, CPU TDP up to 270W×2 |
| チップセット | Intel® C741 | Intel® C741 | Intel® C741 | Intel® C621A Express Chipset |
| メモリ | 4800MHz ECC DDR5 DRAM 2TB(32スロット) | 4800 MT/s DDR5 DIMM 4TB(32スロット) | ・ DDR5 RDIMMs×24 ・8 チャネル DDR5 w/ ECC 5600 MHz |
3200/2933/2666 MHz×24 |
| 標準ネットワーク | ・10GbE BaseT with NVIDIA ConnectX®-7 or Bluefield®-3 DPU 1 ・RJ45 1GbE (Dedicated IPMI port) |
・OCP 3.0（オプション） ・1GbE LOM（オプション）×2 |
InfiniBand . Ethernet PCIe , OCP3 | ・10Gb/s BASE-T LAN ports (Intel® X710-AT2)×2 ・10/100/1000 management LAN |
| 拡張スロット | PCIe 5.0 x16 FHFL slot(s)×7 | Gen5（x16 PCIe） フル ハイト ハーフ レングス×10 | ・ HHHL PCIe Gen5 x16 to PCIe×Switch Complex×8 ・ FHHL PCIe Gen5 x16 to PCIe Switch Complex×3 ・ FHHL PCIe Gen 5 x16 (storage controller only) ・OCP Ports×2 |
・PCIe x16 slots (Gen4 x16 bus) for GPUs×8 ・PCIe x16 (Gen4 x16 bus) Half-length low-profile slots×2 |
| 監視機能 | Supermicro Update Manager (NTTPC提供品標準添付) | ・iDRAC9 ・iDRAC Direct ・iDRAC RESTful API（Redfish対応） ・iDRAC Service Module |
・サーバー: HPE iLO6, BMC, Redfish APIs ・iDRAC Direct ・クラスター: HPE Performance Cluster Manager |
・Integrated in Aspeed® AST2500 2D Video Graphic Adapter with PCIe bus interface - ・1920x1200@60Hz 32bpp, DDR4 SDRAM |
| HDD/SSD | ・E1.S NVMe (Hotswap)× 8 ・M.2 NVMe or SATA3×2 |
・最大8 x 2.5インチNVMe/SAS/SATA SSDドライブ（最大122.88 TB） ・最大16 x E3.S NVMeダイレクト ドライブ（最大122.88 TB） |
SFF NVME U.3 Read-Intensive / Mixed-Use SSDs and RAID M.2 Boot Drives×8 | ・2.5"" hot-swappable HDD/SSD bays×8 ・SAS card is required to enable the drive bays |
| 電源 | 2000W 冗長電源 Titanium Level×3 | 2800W Titanium AC 200～240 V またはDC 240 V冗長、ホット スワップ |
・3000W @54V (4+2 Redundant), 最大277V input×6 ・80 Plus Titanium |
3200W 80 PLUS Platinum power supply×2 |
| サイズ | 幅438.4mm×高さ88mm×奥行900mm | 幅482.00mm×高さ263.20mm（6U）×奥行1008.77mm（ベゼル含む） | 5U: 1016L x 448W x 218.9H | 幅448mm×高さ87.5mm×奥行800mmm |
| 重量 | 39.2kg (最大搭載時) | 113.30kg | 35.96kg | - |
| メーカー保証 | Supermicro完成品保証 (NTTPC提供品標準添付) 5年間 | ・平日9-16時電話受付・翌営業日修理対応（Basic） ・24時間365日電話受付・翌営業日修理対応（ProSupport） ・24時間365日電話受付・4時間ミッションクリティカル対応（ProSupport Plus） 詳しくはサポート選定ガイドをご覧ください 5年間 |
平日9-17時電話受付・翌営業日修理対応 3年間 |
GIGABYTE完成品保証 (NTTPC提供品標準添付) 3年間 |
| オンサイト保守 | ・24時間365日オンサイト保守 ・平日日勤帯 当日オンサイト保守 ・平日日勤帯 翌営業日オンサイト保守ほか 5年間(オプション) |
- | ・平日9-17時電話受付・翌営業日修理対応（TechCare Basic） ・24時間365日電話受付・翌営業日修理対応（TechCare Essential） 3年/5年間（オプション） |
センドバック保守またはオンサイト保守。詳しくは営業へお問い合わせください。 |
ご活用事例
Customers Voice01
人間中心”のAI共生社会を目指して
日本語に強く、軽量でマルチモーダルな国産LLM
「tsuzumi」の挑戦と将来ビジョン
ChatGPTの登場以降、世界各国で生成AI／LLM（大規模言語モデル）の開発競争が激化しているが、実はここ日本でも「国産LLM」の機運が高まっている。そんなムーヴメントをけん引する代表的な一社がNTTだ。NTT版LLM「tsuzumi」の開発をリードした、NTT人間情報研究所の西田京介氏に話を伺った。
Customers Voice02
人間の技術進化を支える生成AI／LLM
ヒトの分身を生み出す“EQ”重視の「TwinLLM」とは何か
――AIが人間の価値と可能性を拡げる未来
ChatGPTの登場以降、多くの企業で「生成AI」を新たなビジネスチャンスや働き方改革に活用する動きが活発化している。その中でも代表的な技術となる「LLM（大規模言語モデル）」の分野で今、注目を集めているのが2023年3月に創業したばかりの気鋭のAIスタートアップ、Spiral.AIだ。同社はなぜ誕生し、この先どこを目指しているのか。同社 代表取締役の佐々木雄一氏に伺った。
Customers Voice03
完全自動運転の鍵を握るLLM開発──TuringがNTTPCを選んだ理由
完全自動運転の実現には、人間のように「見たことのない状況」にも柔軟に対応できるAIの存在が欠かせない。Turing株式会社は、そうした課題を解決する鍵として、LLM（大規模言語モデル）を用いた独自のアプローチに挑んでいる。大規模GPUクラスタを構築し、クラウドでは実現できないレベルの開発環境を整備する中で、Turingがパートナーに選んだのがNTTPCコミュニケーションズだ。なぜNTTPCだったのか、Turingの山口祐氏と、構築を支えたNTTPCの大野泰弘氏に話を聞いた。
納品までのフロー
NTTPCが培った豊富なノウハウと高い技術力を基に、お客さまのご要望に合ったソリューションを提供します。
-
01
ヒアリング
ご用途や導入目的、お使いになるアプリケーションなどをお伺いします。
-
02
提案
ご要件に合わせた構成を提案します。
NTTPC・AIパートナーより、AI導入に向けた要件定義、コンサルティングからお手伝いが可能です。 -
03
お見積・ご契約
他社に負けない低価格で提案します。
契約形態や商流もご相談に応じ柔軟に対応しますので、お気軽にお問い合わせください。 -
04
納品
超高電力サーバーを運用するための電力・空調設計、クラスタ管理やジョブスケジューラ、オーケストレータなどAIワークロードを効率的に実行するためのソフトウェアセットアップまで対応します。
-
05
保証・保守
ミッションクリティカルな商用サービスから、高いパフォーマンスが求められる研究開発基盤に至るまで、お客様用途にあわせたサポートを提供します。
よくあるご質問
お客さまからよく頂戴するご質問をまとめています。
下記以外の詳細については、
こちらのFAQにまとめています
のでご確認ください。
納期について
- 納期はどのぐらいかかりますか。
- 在庫状況により納期は流動的となっています。詳しくは営業担当へお問合せください。
- UPSやネットワーク機器、ストレージなど、GPUサーバー以外の付随機器も取り扱っていますか？
- はい、UPSやネットワークスイッチ、ファイアウォール、ストレージ等の設計・構築・納品にも対応いたします。
- LLMのファインチューニングや推論を実行したいです。どんなGPUが必要ですか？
- 利用されるLLMのパラメータサイズや、量子化を行うかどうかによっても異なりますが、下記のような考え方が一般的です。
※パラメータ数の単位は[B]＝10億で示しています。
ファインチューニング：パラメータ数[●B]の約8倍のGPUメモリが必要（例：13Bパラメータなら104GBメモリ以上）
推論：パラメータ数[●B]の約2倍のGPUメモリが必要（例：13Bパラメータなら26GBメモリ以上）
NVIDIAの場合、BlackwellアーキテクチャGPUがLLMのファインチューニング/推論に特化し、革新的なパフォーマンスを発揮します。
パラメータサイズの大きなモデルの場合、チューニングを行う際は莫大なGPUメモリが必要になるため、マルチGPU構成、マルチノード構成を取ることを推奨しています。
生成AI/LLMのためのGPU基盤について、詳しくは下記のコラムもご参照ください。
生成AI/LLMの開発を加速するGPUクラスタ
保証・保守・交換について
- Supermicroサーバーのメーカー保証は何年間有効ですか？
- 1年間から最大5年間までご要件に応じて選択可能です。また、保証年数の途中延長は不可となります。
- Supermicroサーバ―のオンサイト保守にはどのようなメニューがありますか？
-
- ・平日営業日9時-17時受付 当日対応
- ・平日営業日9時-17時受付 翌営業日対応
- ・24時間365日受付 当日対応
