【DGX Spark活用事例】AIの業務実装をどう前に進めるか―2社の事例に学ぶローカルAI基盤の実践
株式会社NTTデータ イントラマートさま/ 株式会社中央情報システムズさま
生成AIの活用は、単なる検証や情報収集の段階から、実際の製品・サービスや業務フローの中にどう組み込むかを考える段階へと進みつつある。とりわけ、顧客データや機密情報を含む業務データなど、企業において機密性を要する情報を取り扱う場合には、外部クラウドサービスの活用には一定の限界がある。加えて、PoCや分析、推論を繰り返すほど、API利用料や運用面の負担が重くなる場面も少なくない。こうした背景のもと、ローカル環境で生成AIを扱える基盤として注目されているのが、NVIDIA DGX™ Spark(以下、DGX Spark)である。
本記事では、DGX Sparkを導入した株式会社NTTデータ イントラマートの事例と、ASUS Ascent GX10(DGX SparkのOEM版)を導入した株式会社中央情報システムズの事例をもとに、ローカルAI基盤が企業の実務にどのように活かされ始めているのかを紹介する。
株式会社NTTデータ イントラマートでは、顧客案件でのPoCや自社パッケージとの連携検証を見据え、ローカルLLM環境を整備している。また、株式会社中央情報システムズでは、機密情報を含む業務データを扱う現場で、実務担当者が、Open WebUIを活用した質問応答や、RAG(Retrieval-Augmented Generation:検索拡張生成)、AIエージェントといった活用の可能性を探っている。2社に共通するのは、単に「ローカルでAIを動かすこと」が目的ではなく、その先にある「AIの業務実装」を見据えている点だ。
DGX Sparkの価値は、大きなモデルを手元で扱えることだけにとどまらない。業務に近い条件で試行錯誤を重ねながら、セキュリティとコストの両立を図り、本格展開に向けた足場を築けることにある。
本記事では、2社に共通するこの着眼点に注目し、DGX SparkがAIの業務実装に向けてどのような役割を果たしているのかを見ていく。
株式会社NTTデータ イントラマートさまの課題
- 顧客データや機密情報を扱うPoC・検証では、クラウドAPIや外部環境に依存しないローカルLLM基盤が必要だった。
- 大量テキストデータの分析では、従量課金型APIを使い続けるとコストが膨らみやすかった。
- 自社パッケージやAIエージェントとの連携を見据え、手元で多様な検証を進められるGPU環境が求められていた。

導入の効果
- ローカル環境で大規模モデルを扱いやすくなり、PoCや社内検証を進めやすくなった。
- 研究開発用に加えて本番利用も視野に入れた運用体制を整えやすくなった。
- DockerやPythonなどがあらかじめ利用しやすい環境により、セットアップ負荷を抑えつつ速やかに検証を始められた。
株式会社NTTデータ イントラマートさまのDGX Spark活用事例
【導入の背景・経緯】顧客案件でのPoCや自社製品との連携を見据え、ローカルLLM基盤を整備
株式会社NTTデータ イントラマートは、パッケージソフトウェアの開発・販売を中心に、ワークフローやBPM(Business Process Management)などの内製基盤プラットフォームを提供する企業である。これに加えて、SI事業やコンサルティング事業も展開しており、AIの進展を見据えながら、開発プラットフォームへのAI活用や先進的な研究開発にも取り組んでいる。
同社がDGX Sparkを導入した背景には、顧客からローカルLLMを求める声の高まりがあった。特に金融や保険など、データの取り扱いに厳しい業界では、クラウドではなくローカルで完結するAI基盤へのニーズが強い。また、顧客と共同でPoCを進める際には、大量のテキストデータを扱う場面もあり、従量課金型のAPIを使い続けるとコストが増えやすい。そうした中で、ローカル環境でモデルを運用できる基盤を持つことは、セキュリティとコストの両面で大きな意味を持っていた。
導入製品はDGX Sparkを2台とクラスタリング用ケーブル1本である。導入後は、研究開発用に加えて、本番環境を見据えた活用も視野に入れながら、用途を広げている。用途を固定するのではなく、PoCや社内検証、将来的なSIプロジェクトなどに応じて適材適所で使い分けていく方針であり、ローカルAI基盤を柔軟に運用する考え方がうかがえる。
DGX Sparkの詳細については、次の記事もご参照ください。
AI開発のコストとスピードを両立─NVIDIA DGX Sparkがもたらす新時代のGPU基盤|AIとDXの新しいミカタ。【公式】NTTPCコミュニケーションズ
【導入がもたらす価値】PoCから本番想定まで、適材適所で使える検証基盤に

DGX Sparkを用いたローカルLLM活用イメージ
同社が高く評価しているのは、大規模なローカルLLMを扱いやすくなったことだ。これまでローカルで動かせるモデルには制約があったが、より大きなモデルも検証しやすくなり、「試したいモデルを、試したいタイミングで試せる」環境が整った。これは単に性能の話ではなく、PoCや研究開発のスピードを高めるうえで重要な変化だといえる。
加えて、技術者目線では、セットアップのしやすさも実運用に向けた価値の一つになっている。必要なライブラリが比較的整った状態で利用しやすく、リモートデスクトップも含めて初期構築の負荷を抑えやすかったことから、若手メンバーでも立ち上げに取り組みやすかったという。ローカルAI基盤は性能だけでなく、「現場で立ち上げやすいこと」も重要であり、その点でも手応えを得ている。
また、同社にとってDGX Sparkは、単独で完結する装置というより、今後の製品連携や検証を進めるための足場でもある。自社パッケージとAIをどう組み合わせるか、ローカルLLMをどう業務の中に組み込むかを探るうえで、まずは手元で触りながら判断できる環境があることが大きい。
【今後の展開】製品連携の検証を広げ、用途拡大へ

DGX Sparkを用いたRAGの精度向上に向けた検証イメージ
今後は、大規模なファインチューニングに一気に進むというよりも、モデルを動かしながらデータを処理する用途や、RAGの精度向上、自社製品との連携検証を広げていく方向性だ。さらに必要に応じてGPUの拡張を行いながら、活用範囲を広げていく可能性も考えている。
同社の事例から見えてくるのは、DGX Sparkを「研究用の実験機」にとどめず、顧客案件でのPoCや将来的な本番活用も視野に入れた橋渡しの基盤として位置づけている点である。ローカルAI基盤の価値は、閉じた環境を作ることだけでなく、その先にある業務実装や製品実装の可能性を、具体的に検証できることにもある。

GPU製品・サービス
AI/Iot、デジタルツイン用途に適したGPUサーバーを設計・構築。さらにデータセンター・ネットワークなど、GPU運用に必要なシステムをワンストップで提供可能。
株式会社中央情報システムズさまの課題
- 機密情報を含む業務データを扱うため、外部クラウド上の生成AIサービスを活用しにくかった。
- 業務情報を含んだ形で生成AIを活用するには、社内で閉じたローカル環境が必要だった。
- 推論、RAG、AIエージェント活用などを見据えつつ、まずは手元で試せる環境を整える必要があった。

導入の効果
- ローカル環境で生成AIを扱う基盤を確保し、業務情報を含んだ推論や活用の検証を進められるようになった。
- Open WebUIを活用した質問応答やコーディング用途など、実務に近い形で生成AIの使い方を試せるようになった。
- RAGによる社内資料検索やAIエージェント活用など、将来の業務実装に向けた足場を築けた。
株式会社中央情報システムズさまのASUS Ascent GX10(DGX SparkのOEM版)活用事例
【導入の背景・経緯】機密情報を扱う現場で、社内に閉じた生成AI基盤を求めて
株式会社中央情報システムズは、システム・アプリ導入の企画から開発、運用サポートまでを総合的に支援する開発会社である。医療・保健分野を含む業務システムへの対応実績を持ち、受託ソフトウェア開発を主業としている。請負開発や常駐型の支援に加え、自社パッケージも保有しており、業務システムに深く関わる現場を数多く担ってきた。
同社がASUS Ascent GX10(DGX SparkのOEM版)を導入した背景には、機密情報を含む業務データを、外部の生成AIサービスに載せられないという課題があった。業務で生成を活用したい一方、公開サービスでは一般的な内容しか扱うことができず、仕様書や業務関連データを含んだ形で活用するには制約が大きい。そこで必要になったのが、社内に閉じたローカル環境で生成AIを利用できる基盤である。
選定理由としては、メモリ容量とNVIDIA製であること、そして価格感が重視された。検討時にはMac Studio系も意識していたが、最終的にはこの製品に絞られた。想定していた予算レンジの中でローカルAI基盤を持てる点も、導入を後押しした。
導入製品はASUS Ascent GX10 1台である。まずは汎用的なLLMの利用や、Open WebUIを活用した質問応答、コーディング用途などから検証を進めており、その先の活用テーマとしてRAGやAIエージェントも視野に入れている。
ASUS Ascent GX10の詳細については、次の記事もご参照ください。
ASUS Ascent GX10の特徴を解説:他のGB10搭載モデルとの違い、性能・価格・導入の選定ポイント|AIとDXの新しいミカタ。【公式】NTTPCコミュニケーションズ
【導入がもたらす価値】業務に近い形で、ローカルLLMの可能性を検証できる
株式会社中央情報システムズが現在進めているのは、本格的な全社展開というより、業務に近い使い方でローカルLLMの可能性を見極める検証である。具体的には、Open WebUIを社内に立て、業務情報を含んだ質問応答を試すなど、クラウド型AIチャットに近い体験をローカル環境で再現しようとしている。あわせて、コーディング用途やAIエージェントの活用可能性も探っており、単なる実験ではなく、実務に寄せた使い方、実務の効率化や品質向上を見据えた検証が始まっている。
この段階での価値は、すぐに成果を出すことよりも、自社の情報を使った推論や検索を安全に試せることにある。将来的には、RAGによる社内資料検索、自然言語でのデータベース検索、AIエージェントによる支援なども視野に入れている。ローカル環境を確保したことで、機密情報を扱う業務にAIをどう組み込めるのかを、現実的に検討できる環境が整った。また、パラメータ規模の大きなLLMを手元で動かせることにも手応えを得ている。
【今後の展開】RAGやAIエージェント活用を視野に、業務実装の形を探る
株式会社中央情報システムズの今後の方向性は、業務実装寄りである。RAGによる社内文書検索、データベースの自然言語検索、AIエージェントによる生産性向上など、開発や業務の現場で役立つ使い方を模索している。ローカルLLMを、単なる新技術の検証に終わらせず、実際の業務改善につなげていく方向性である。
また、現時点で実施している取り組みではないものの、将来的にはテスト仕様書レビューのような使い方も構想している。具体的な実装方法や運用像は検討中であるが、開発現場で起こりがちな観点漏れやレビュー負荷を減らし、品質向上につなげたい考えだ。
まとめ:DGX Sparkは、「AIの業務実装」に向けた現実的な第一歩となり得る

株式会社NTTデータ イントラマートと株式会社中央情報システムズの事例に共通しているのは、いずれもクラウドだけでは進めにくい生成AI活用に対して、DGX Sparkを起点にローカルAI基盤の構築に取り組んでいることだ。2社とも、機密性への配慮や運用上の制約を踏まえながら、まずはPoCや検証を通じて、自社の業務やサービスに生成AIをどう活かせるかを見極めようとしている。
また、共通して見えてくるのは、DGX Sparkを単なる「高性能な小型GPU」としてではなく、「AIの業務実装」に向けた検証基盤として捉えている点である。顧客案件でのPoC、自社製品との連携検証、社内文書を活用した質問応答やRAGの検討など、その使い方はそれぞれ異なっていても、目指している方向は共通している。いずれも、生成AIを「試すため」ではなく、「実際の業務に組み込むため」にDGX Sparkを活用しているのである。
この2社の事例から見えてくるのは、DGX Sparkの価値が、単にローカルで大規模モデルを動かせることにあるのではなく、業務に近い条件でAI活用を検証し、次の実装フェーズにつなげられることにあるということだ。いきなり大規模な投資や本格展開に踏み込む前に、まずは手元で試し、自社に合った活用の形を見極める。2社の実例はその現実的な第一歩として、DGX Sparkが、企業のAI導入を着実に前へ進めるローカルAI基盤になり得ることを示している。

GPU製品・サービス
AI/Iot、デジタルツイン用途に適したGPUサーバーを設計・構築。さらにデータセンター・ネットワークなど、GPU運用に必要なシステムをワンストップで提供可能。
※NVIDIA、NVIDIA DGX Sparkは、米国およびその他の国におけるNVIDIA Corporationの商標または登録商標です。
※ASUSおよびAscent GX10は、ASUSTeK Computer Inc.の商標または登録商標です。
※「intra-mart」の商標およびロゴは、株式会社NTTデータ イントラマートの登録商標です。
