生成AI/LLMへの関心の高まりが大きく広がっている。検証フェーズを経て、ビジネスへの本格的な適用を模索する段階に入っている企業も多い。こうした状況下で存在感を増しているのがNTTグループのNTTPCコミュニケーションズ（以下、NTTPC）だ。生成AI/LLMの開発ニーズに対応したGPUクラスタの構築で一歩抜きん出ている。生成AI/LLMの活用を考えた際に、同社の強みがどこにあり、企業としてどんなことが期待できるのだろうか。

４階層のGPUビジネスのベースを担う

「GPUビジネスは4階建てのビルのようなものと考えると分かりやすいかと思います。1階は建物の土台であるハードウェア、2階が個々のハードウェアを集めて機能させるインフラ設備、3階はプラットフォームとしてのLLM（大規模言語モデル）で、例えると優秀な従業員が多く集まっているフロア、そして4階は実ビジネスを司るアプリケーションです。今、NTTPCは1階と2階の2つを主に担当しています」とNTTPC 代表取締役社長の工藤潤一氏は語る。

自社のビジネスに合わせた独自の生成AI/LLMを開発するためには非常に高速な計算処理システムが求められる。そのためにNVIDIAに代表されるGPUを搭載したGPUクラスタを構築するのが一般的だが簡単ではない。GPUは世界的に需要が逼迫しており、ネットワークやストレージなど周辺機器との組み合わせも必要になる。

工藤氏は「高性能のGPUクラスタを構築するには、稼働環境の整備、入手困難なGPUの調達、周辺機器とのチューニングなど多くの難しさがあります。長年にわたってITインフラビジネスを手がけてきたNTTPCには、NVIDIAが展開するパートナープログラムで最上位レベルのエリートパートナーである他、数多くのメーカー/製品の取り扱いや調達チャネルがあり、GPUクラスタの設計・構築に関する豊富なノウハウも持っています」と強みを語る。

この強みはNTTグループの中でも発揮されている。NTTグループが推進するIOWN構想は光技術を使って飛躍的な計算能力を実現し、生成AIやビジュアライゼーションを加速させるものだが、NTTが独自開発したLLM「tsuzumi」の開発基盤のインフラを構築したのがNTTPCである。

「tsuzumiはGPUビジネスの建物の3階部分にあたります。こうした動きは外部にも広がりつつあります。小回りのきくNTTPCが中心になってGPUメーカーなどとお客様のニーズをつなぎ、パフォーマンスのよい環境を構築することで価値を提供できています。ちなみに、建築設計などに活用できるデジタルツインは4階部分にあたるアプリケーションで、NTTPCでも自ら『VDIクラウド for デジタルツイン』というサービスを提供しています」と工藤氏は現状を語る。

また、NTTPCには多くのパートナーが集まってきている。AI共創パートナープログラム「Innovation LAB」に参加するスタートアップは年々増加している。工藤氏は「スタートアップの持つ技術力とNTTPCのプラットフォームを組み合わせて新しいサービスを作っていきたい」と意欲を語る。NTTPCはAIビジネス全体を底上げする基盤の役割を果たしているのだ。

手が届かない部分をカバーし、求める環境を構築してくれる

AIビジネスの底上げ役を担うNTTPCとのパートナーシップを強化している1社に、完全自動運転の実現を目指すTuring（チューリング）がある。同社ではNTTPCをパートナーとして、国内企業が専有するGPUクラスタとしては最大規模となる「Gaggle Cluster」の構築に取り組んでいる。

「完全自動運転を実現する鍵の一つがLLMです。今の自動運転技術では埋められない数％を埋めるには、見たことがない状況でも対応できる人間の頭脳のようなAIが必要だからです。目にはカメラ、頭脳にはLLM、そして手足としてアクセルとブレーキがあって、完全自動運転が可能になるのです」とTuringの山口祐氏はLLMの重要性を説く。

同社が他社に先行するためには、独自のLLMを先駆けて開発しなければならない。しかし、クラウドでは計算力に限界があり、開発ニーズを十分に満たすことができなかった。そこで一貫して利用できる自社専有の大規模GPUクラスタが必要だと考えた。

その構築パートナーにNTTPCを選んだ理由について山口氏は「クラスタはGPUだけでは構築できません。全体のシステム構築のノウハウと実行力が必要です。大規模クラスタの構築経験が豊富で、インターコネクトやストレージなどGPU以外の知見があり、強力な調達チャネルもあることから、最適なパートナーだと考えました」と話す。

構築プロジェクトはほぼ方向性は固まり、詰めの段階を迎えている。「自分たちの手が届かないところを実現してもらうことで、やりたいことができる環境を手に入れられます」と山口氏。大規模GPUクラスタが同社の飛躍を後押しするはずだ。

LLM開発リソースを求める人の駆け込み寺になりたい

NTTPCで顧客企業やパートナー企業の生成AI/LLMへの取組みを支援するチームのリーダーを務めているのが大野泰弘氏だ。GPUアーキテクトに対する豊富なノウハウと実績をベースに、ChatGPT登場以降に急増するようになったGPUクラスタの設計・構築に携わっているという。

大野氏はネットワーク構築からデータセンターラックの設計・構築、アプリケーション開発まであらゆる業務を経験してきたフルスタックエンジニアだ。そのノウハウがGPUクラスタ構築に活かされている。「エッジコンピュータを一括してマネジメントするサービスを開発したことが、生成AI/LLMの仕事につながりました」と大野氏は語る。

マルチノード構成で数多くのGPUを搭載したGPUクラスタを構築するには、サーバーだけでなく、ノード間通信を高速化するためのインターコネクトやストレージ、計算リソースやジョブを管理するためのマネジメントツールなど、ハードウェアからソフトウェア、ネットワークまでを組み合わせ、チューニングすることで最大限にパフォーマンスを引き出さなければならず、まさに“総合格闘技”である。

「限られた納期と予算の中で顧客要求を満たさなければならないという難しさがあります。GPUクラスタの構築には、NVIDIAリファレンス・アーキテクトの理解に加えて、豊富な構築経験に基づく独自のノウハウを持ち、総合力と小回りのよさを兼ね備えたNTTPCだからこそできる部分が少なくありません」と大野氏は自社の強みを語る。NTTの国産LLM 「tsuzumi」やTuringでのGPUクラスタ設計・構築もその実績の一部だ。

ただ課題となっているのが、大野氏のようなフルスタックエンジニアの数が市場ニーズに追いついていないことだ。そのため、大野氏は積極的に技術やノウハウを伝え、後進の育成に取り組んでいる。大野氏は「構成要素が多いGPUクラスタの構築はフルスタックエンジニアの育成にもちょうどよい仕事です。人材を育ててNTTPCが生成AI/LLMの開発を必要とする人の駆け込み寺になることを目指しています」と想いを語った。

※この内容は株式会社日経BPの許諾を受けて、
「日経クロステック」に記事体広告として掲載したものを掲載しています。