提案・契約について
- 入札に必要なため、各種証明書を準備してもらうことはできますか？
- はい、証明書の発行も対応いたします。
- UPSやネットワーク機器、ストレージなど、GPUサーバー以外の付随機器も取り扱っていますか？
- はい、UPSやネットワークスイッチ、ファイアウォール、ストレージ等の設計・構築・納品にも対応いたします。
- 購入する場合、契約形態はどのようになりますか？
- 売買契約、レンタル、リースなどお客様のご希望に合わせて対応いたします。
なお、電子契約による契約を推進しておりますため、お客さまの都合が許すようであれば電子契約のための契約準備から進められると幸いで。
【契約ステップ】
1. 電子契約システム利用に関する覚書を締結
2. 売買基本契約書を締結（継続的なお取引が見込まれるお客さま）
3. 売買契約書を締結（対象の売買に限って契約されるお客さま）
- 海外に設置する機器を購入することもできますか？
- 納品先が日本国内で、お客さまにて海外へ輸出される場合には提案可能です。
ただし、ご導入メーカーや輸出先国によっては制限がある場合もありますので、詳しくはお問合せください。
サーバー構成について
- LLMのファインチューニングや推論を実行したいです。どんなGPUが必要ですか？
- 利用されるLLMのパラメータサイズや、量子化を行うかどうかによっても異なりますが、下記のような考え方が一般的です。
※パラメータ数の単位は[B]＝10億で示しています。
ファインチューニング：パラメータ数[●B]の約8倍のGPUメモリが必要（例：13Bパラメータなら104GBメモリ以上）
推論：パラメータ数[●B]の約2倍のGPUメモリが必要（例：13Bパラメータなら26GBメモリ以上）
NVIDIAの場合、BlackwellアーキテクチャGPUがLLMのファインチューニング/推論に特化し、革新的なパフォーマンスを発揮します。
パラメータサイズの大きなモデルの場合、チューニングを行う際は莫大なGPUメモリが必要になるため、マルチGPU構成、マルチノード構成を取ることを推奨しています。
生成AI/LLMのためのGPU基盤について、詳しくは下記のコラムもご参照ください。
生成AI/LLMの開発を加速するGPUクラスタ
- LLMのファインチューニングや推論を実行したいです。CPUメモリはどれくらい必要ですか？
- 一般的に生成AI系では、学習データの読み込み時、一時的にCPUメモリに展開された後にGPUメモリに展開するので、CPUメモリも多ければ多いほど良いと言われます。
総GPUメモリ容量の2倍以上を確保すれば十分なケースが多いです。。
CPUによっては、すべてのメモリスロットを埋めないとパフォーマンスが出ないものもあるため、CPUと合わせて選定が必要です。
構成に迷った場合は、弊社までお問合せください。
- 同一筐体に異なる種類のGPUカードを搭載することは可能ですか？
- 基本は、同一型番を搭載することを推奨しますが、要件に応じて別型番を同一筐体に混在させることは可能です。
- NVIDIA製サーバー（DGX Systems™）とその他のメーカーのサーバーとの違いは何ですか？
- NVDIA製DGX製品とその他メーカーのGPUサーバーには、大きく分けて次の違いがございます。
【ソフトウェア】
NVIDIA：Ubunts OS、各種ドライバ、CUDAや主なフレームワークを組み込まれた状態で出荷します。
その他メーカー：ドライバやソフトウェアなどは個別にインストールする必要があります。
※NTTPCエンジニアでのインストール代行も行っています。詳しくはこちら
【サポート】
NVIDIA：ハードウェア、OS、ドライバだけでなく、ディープラーニング用の主なフレームワークをサポート。
その他メーカー：ハードウェアに関する故障問い合わせのみ受付（原則、ソフトウェアはサポート対象外）
【構成】
NVIDIA： 定められた構成からのカスタマイズは不可
その他メーカー：自由にカスタマイズ可能
【まとめ】
NVIDIA：GPUサーバー初心者向け
その他メーカー：GPUサーバー玄人向け
- NVLink、NVLinkブリッジとは何ですか？
- （NVLink）
GPUカードにはPCIe版とNVLink版の2種類があります。NVLinkとは、1台のサーバーにGPUカードを複数搭載する場合に、GPU間のデータ転送速度を向上するための技術です。主に次のような違いがあります。
①GPU間のデータ転送速度
NVLink版：高速
PCIe版 ：NVLinkと比較すると低速
②費用
NVLink版：高価
PCIe版 ：NVLinkと比較すると安価
③故障時の対応
NVLink版：原則、マザーボードごと交換
PCIe版 ：被疑カードのみ交換
（NVLinkブリッジ）
PCIe規格のGPUカードを相互接続することで転送速度を向上させるオプションパーツです。ブリッジで接続したカードのみを対象に転送速度を向上させることができます。
- サーバーラックはどのように選べばいいですか？
- 選定いただく筐体のサイズに注意ください。国内で市販されている19インチラックに入らないタイプのサーバーもございます。また、19インチラックでも内幅はメーカーによって異なる場合があるため、希望の筐体が設置ラックに収まるかどうかは事前に確認ください。
- HDDとSSDで迷ったらどちらを選べばいいですか？
- ディスクを選択する際、HDDとSSDで迷った場合にはSSDで選択することをお勧めいたします。近年、HDDとSSDの価格差はかなり縮まってきているため、特別な要望がない限り、多くのお客さまがSSDにて購入を検討されます。
- SSDのSATAやNVMeとは何ですか？
- SSD製品における接続方式の規格です。NVMeの場合、PCIeレーンにSSDを接続することでSATAと比べて高速に読み書きすることが可能です。
- サーバーのサイズ、重量が知りたいです。
- GPUサーバーページの「主な仕様」をご覧ください。
なお、機器構成により重量は変わるため、希望の構成での重量を確認されたい場合は個別にお問い合わせください。
- サーバーの消費電力が知りたいです。
- 機器構成により異なるため、お問い合わせください。
- GPUカード単体の購入は可能ですか。
- 可能です。エンタープライズ向けのGPUカードからコンシューマー向け製品まで、全てのGPUカードを法人のお客さまへ販売可能です。
- サーバーの管理ツールはありますか。
- Supermicro製品の場合、IPMI（Intelligent Platform Management Interface）を利用して、ネットワーク経由で遠隔からサーバーの状態確認、サーバーの管理（電源ON/OFF、OSインストール等）を行うことが可能です。他メーカーでも同様のインターフェースを備えています。
詳しい設定手順は、添付資料「IPMI設定方法_v1_3.pdf」を参照ください。
- GPUサーバーの設置作業をお願いすることはできますか。
- 日本国内であれば設置作業をお請けすることも可能です。設置、及び電源投入後、サーバーの動作確認まで実施いたします。設置先の住所を教示いただければお見積りいたします。
納期について
- 納期はどのぐらいかかりますか。
- 現在、世界的な半導体不足の影響により、カスタムGPUサーバーの納期は2～4か月以上かかっています。
調達する部材やサーバー構成によってはさらに納期が長くなる場合もあります。
また、Supermicroは生産工場が台湾にあるため、旧正月を挟む1月～2月の発注においては、納期が標準より長くなるケースがございます。
お急ぎの場合は即納可能なモデルやメーカーも提案できますので、お問い合わせください。
動作環境について
- 購入前に想定消費電力を調べることは可能ですか？
- 可能です。機器構成により異なるため、お問い合わせください。
- GPUサーバーの運用に適正な温度は何度ですか？
- GPUカードの温度を60℃～80℃の範囲に保って運用することをお勧めしています。
※GPUカードの台数および機種、周囲の環境によって適正な室温は異なります。
- 複数枚のGPU構成でフル稼働した場合に発生する熱量によって、SSDのサーマルスロットリングによる速度低下が起こるのでしょうか？
もし速度低下してしまうのであれば、ヒートシンクを追加したほうが良いでしょうか？
- 弊社が推奨するメーカー完成品の構成であれば、ヒートシンクなしでも安全にご利用いただけるよう設計しています。
動作環境ソフトウェアについて
- 搭載可能なOSを教えてください。
- ご要望のサーバー機種によって異なりますので、お問い合わせください。
弊社にて動作検証済みのOS、バージョンをご利用することをお勧めしていますので、導入後にOSをバージョンアップされる際は事前にお知らせください。
- ソフトウェアインストールやコンテナ構築、設置作業などは依頼できますか？
- はい、サーバーキッティングやラックマウント設置などにも対応しています。
構築メニューの一例は関連サービスをご覧ください。
動作環境電源について
- GPUサーバーの入力電源は何Vですか？
- 構成によって異なりますが、100V～240Vまでの入力電源に対応しています。
ただし、サーバーの構成、消費電力によっては、200Vでないと動作しないケースや、100Vでも動作はするものの、200Vでないと冗長が取れないケースがあります。
お客さまにて200V電源のご準備が難しい場合は、弊社が提供する高電力対応データセンターに設置いただくことも可能です。
- PDUを選定したいので、SupreMicroサーバーの電源ケーブル端子の規格を教えてください。
- 電源仕様はサーバーによって異なりますが、代表的な例は下図の通りです。
- ビルの計画停電を実施する予定ですが、注意すべき点はありますか？
- 停電前に正常にシャットダウンいただき、復帰後に再度起動いただければ問題ございません。
保証・保守・交換について
- 電源オンのままHDDを交換することは可能でしょうか？
- ホットスワップ可能な製品もございますが、型番やサーバー構成によって、対応可否が異なります。詳しくは弊社営業までお問い合わせください。
保証・保守・交換メーカー保証
- GPUサーバーのメーカー保証は何年間有効ですか？
- メーカーによって異なりますが、1年間から最大5年間まで、ご要件に応じて選択可能です。
- GPUサーバーのハードウェア故障が発生しました。
メーカー保証（センドバック対応）に加入しているのですが、交換対応の手順を教えてください。
- ご購入時にお知らせしたサポート窓口へ、以下の情報をご連絡ください。
・故障発生日時、発生事象、関連ログ（お分かりになる場合）
・筐体前面に貼付されている管理番号 or 製品シリアル番号
頂いた情報を基に切り分けを行いし、故障被疑部位を特定後、代替パーツを送付します。
代替パーツ到着後、お客さまにて故障パーツの交換を実施してください
監視ツールについて
故障かな？と思ったら
- HDDの赤ランプが点滅していますが故障でしょうか？
- 点滅の場合、対象DISKがSpare設定されている場合がありますのでご確認ください。
- SuperDoctorにて該当サーバーのステータスを確認したところ、「Chassis Intru」の項目が赤表示となり、Resetボタンが表示されました。その他のステータスは異常ありません。このような場合は故障でしょうか？
- 本体の蓋を開けてしまうと同イベントが発生することがあります。
IPMIでログインいただき、添付資料「IPMI設定方法_v1_3.pdf」の項番3.6「Chassis Intrusion の クリア」を実施してください。
