GPUアーキテクト&トレンドGPUアーキテクト&トレンド

トレンド

「Innovation LAB WEBINAR 2020」を開催しました!
~他社とのパートナーシップでイノベーションを共創~

2020.06.22

営業本部 GPUセールス&マーケティング担当 亀谷 淑恵

営業本部
GPUセールス&マーケティング担当
亀谷 淑恵

Innovation LAB WEBINAR 2020

近年、航空会社、生命保険会社などさまざまな企業が、新しい付加価値やビジネスを創出する“オープンイノベーション”の活動拠点として「Innovation LAB」を開設しています。
NTTPCのInnovation LABでは、AI/IoT分野で高い技術優位性をもつスタートアップ企業とのビジネスコラボレーションを通じて、新規事業の立ち上げや既存事業改革を目指す企業へのAI/IoT導入を推進しています。

このたびNTTPCでは、経済産業省が主宰するJ-Startupに参画されているスタートアップ企業の皆さまをお招きし、Innovation LABの取り組み内容やコミュニティ活動について紹介するためのウェビナーを開催しました。

Innovation LABとは

はじめに、Innovation LAB企画マネージャーの岩田より、Innovation LABのコンセプトを説明しました。

NTTPCInnovation LABでは、パートナーの皆さまに対し、主に2つの価値を提供しています。
1つは開発環境です。AIシステムの開発を行うためには、アプリケーションだけではなく、コンテナやフレームワーク、さらにはネットワークやデータセンター / クラウドなどのインフラに至るまで、総合的に調達する必要があります。しかしこれらすべてを整備するには莫大な投資が必要です。せっかくのアイデアを気軽に試すことは簡単ではありません。
Innovation LABでは、AI開発に必要な計算リソース・インフラを無償提供することで、AI事業者・学術研究機関の方に革新的なアルゴリズムや推論モデルをお試しくださり、アイデアを具現化するためのお手伝いができればと考えています。実施される内容によって必要なシステムは異なるため、経験豊富なNTTPCエンジニアがパートナーの皆さまそれぞれに適した構成をコーディネートします。

2点目は共同マーケティングです。PoCを超えてサービス化していくにはさらなるご苦労があるとお聞きします。LABで検証された内容を市場に出し、お客さまの声を受けてPDCAを回していくフェーズも支援したいと考えています。
具体的には、今回のようなセミナーや、Webを使ったマーケティング活動を行っています。
お客さまのちょっとしたお悩みごとや、検証結果を技術コラムとしてWebサイト上で公表したり、企業間の交流イベントや共催セミナーを開催しています。
また、市場展開にあたっては人的なネットワークが非常に重要になります。Innovation LABには現在10社のパートナーさまが参画されており、さらにNTTグループや、NVIDIAさまをはじめとしたメーカーさま、大学・研究機関の方々にもご協力を頂戴しています。2月に実施したMeetupイベントでは、80名以上のお客さま・パートナーさまがご参加くださり、さまざまな新規ビジネスを創出するきっかけとなりました。

Innovation LABパートナーとしてご参画されるにあたって厳しい縛りごとは設けていませんが、みなさまがサービスを事業化されるときには、ぜひNTTPCへお声がけくださればと思います。

NVIDIA DGX A100ご紹介

Innovation LABには、先日NVIDIAから発表されたばかりの新たなマシン「NVIDIA DGX™ A100」も導入予定です。NVIDIA シニアソリューションアーキテクト佐々木さまより、本マシンがAI研究開発にもたらす効果についてご紹介賜りました。

8基の NVIDIA A100 GPU で合計 320GB の HBM2 メモリ
  • GPU 毎に V100 の 2 倍となる 12 リンクの NVLink
  • 全ての GPU 間を 600GB/s の双方向帯域幅で接続
  • PCIe Gen4 の最大 10 倍の帯域幅
6基の NVSwitch で全ての GPU を全結合
  • 4.8TB/s のバイセクションバンド幅
  • HD ビデオ 426 時間分に相当するデータを 1 秒で転送
2基の AMD EPYC 7742 合計 128 コア
  • PCIe Gen4 128 レーン
  • 1 TB のメモリを標準搭載、 2 TB に拡張可能

今回リリースされた、NVIDIA Ampereアーキテクチャを採用したデータセンターGPU「NVIDIA A100 Tensor コアGPU」は、これまで多くのスパコンや研究基盤で採用されてきたNVIDIA V100 Tensor コア GPUと比較しても、約3倍(BERTトレーニングのスループット)のパフォーマンスを発揮できます。
さらに、AIトレーニングで一般的に利用されるFP32との高い相互運用性を持つTF32という数値型を使用可能です。このTF32を使うと既存プログラムを変更することなく、新しいハードウェアに移植するだけで高速化を図ることができます。
NVIDIA DGX™ A100には、このNVIDIA A100を8基搭載。GPU間を結ぶNVIDIA ® NVLink ®、NVIDIA ® NVSwitch™も備えており、GPUすべてをフルスペックで動かしてもボトルネックにならないバンド幅を確保することで、マルチGPU、マルチノードで計算可能です。また、PCI Express 4.0に対応した64 コアのAMD EPYC CPUを2基搭載しました。NVIDIAとAMDの高性能コラボをぜひ体感してほしいと思います。

Innovation LABでは、何らかの新しいアルゴリズムや、機械学習のトレーニング・推論を試されると思います。大規模な演算を行われる場合、サーバ1台ではスペックが足りない場合もあるかもしれません。DGX A100では、Mellanox ConnectX-6が利用可能であり、高速なNIC ( InfiniBand / イーサ切り替え可能 ) が8枚標準装備されているとお考えください。さらに、外部共有ストレージと通信するためのConnectX-6も標準でついており、オプションも加えると最大10枚のConnectX-6を搭載することができます。

さらに、NVIDIA A100 GPUでは、マルチインスタンスGPU ( MIG ) 機能を実装しました。これは1つのGPUを最大7つに分割し、8GPU×7で計56基のインスタンスに分割することができるものです。1台のDGX A100をジョブごとに分けることができ、相互に干渉しあわないため、Innovation LABのように複数の方が一斉に検証される環境にとても適していると考えています。

アルゴンヌ国立研究所では、すでに24台のNVIDIA DGX™ A100をクラスタリングしてのご導入が決定しています。この規模のクラスタはスパコンに匹敵し、Covid-19に立ち向かうための研究に協力することになります。
日本国内で最も早く導入される企業の1つになるのが、NTTPCのInnovation LABになると思われます。ぜひファーストユーザとして、世界初の5PetaFLOPS AI システムを体感してください!

Innovation LABを活用した研究開発

次に、Innovation LABに参画中のパートナーであるHmcomm株式会社営業統括部 高須賀さまより、実際の活用事例をご講演くださいました。

「Hmcomm」という社名は、「Human・machine・communication」を組み合わせた造語で、音声×AIを主たる事業とする企業です。自然言語処理や、異常音検知に関する研究開発やサービス提供を行っています。

当社の事業の柱となっており、Innovation LABで検証を行っているのが、FAST-D ( 異音検知プラットフォーム ) です。モーターの異音や、家畜の健康管理など、人の耳で聞いて理解できることをすべてAIで検知したいと考えています。特定の業種に限ったものでありません。より簡単に誰でも異音検知技術を使用できるよう、音声認識を民主化していくことをミッションとして取り組んでいます。

最近はメディアにも取り上げられ、社会的な注目度の高いプロジェクトになりつつあると感じています。FAST-Dは明確なソリューションではなく、広告・プラント・インフラなどの業界でいろいろな可能性を試しているので、事例ベースで紹介します。 ※FAST-Dで使用されている技術や今後の展望については、Hmcomm株式会社 R&Dセンター センター長の横田様にお話しを伺いました。ユースケースをご覧ください。

  • パイプラインのつまりを音で予兆
    ⇒熟練した職人の耳をAIで肩代わりすることで、ほとんどのケースでパイプが詰まる予兆を検知できるようになりました。職人の技術をAIが奪うのではなく、AIと職人の共存関係を目指したいと考えています。
  • 養豚現場で家畜の咳の音を検知
    ⇒現在は獣医さんが人間の耳で豚の呼吸器障害を検知していますが、テクニックを持った獣医師の数は年々減少しています。人口不足を補うためにも、AIで補完できないかと考えています。
  • モーター駆動音
    ⇒24時間絶え間なく異常監視を求められる現場や、監視員が常駐できない場合など、私たちのソリューションで協力できないかと検討中です。

私たちは2019年の開設当初からInnovation LABに参画しているのですが、参加したメリットは3つほどあると思っています。

  • 1. GPUプラットフォームを無償提供
    データセンターからサーバ、ネットワークに至るまで、ほとんどすべてのレイヤをお任せすることで、我々は研究にフォーカスできています。
  • 2. インフラ保守運用を代行
    当社が利用しているNVIDIA DGX-1 はきわめて強力な GPU サーバで、最大消費電力は 3,500W とかなりハイエンドなものとなっています。そのため、安定的な電力供給と空調 ( 冷却 ) が高いレベルで求められます。これを自前で管理するのは、従業員 60 人程度の当社にはかなりハードルが高いと感じています。
    Innovation LABのリソースをお借りすることで、サーバに適した空調管理をはじめ、インフラの運用保守をすべてアウトソースできています。これまで1度もトラブルなくメンテナンスしてくださり、大変感謝しています。
  • 3. コミュニティへの参加
    NTTPCの AI パートナーや NTT グループの顧客を集めた「InnovationLAB MeetUp #1 」イベントが 2020 年 2 月 7 日に開催され、当社もご招待いただきました。FAST-D をプラットフォームとして構築し提供するには当社だけではカバーできないところもありますので、こういった交流の場から今後の事業や研究開発のヒントを得られればと思っています。

実際のシステムでは、アプリケーションの要件に応じて、推論器をクラウド上に実装したほうがいい場合と、エッジ側に実装したほうがいい場合があると考えています。後者については、当社だけではエッジハードウェアの開発はできませんので、 NTTPCや、 Innovation LABを通じて交流しているパートナーなどとの協業に期待しています。

セミナー終了後には、活発に質疑応答が交わされました。一部を紹介します。

Q.NTT東日本様の「スマートイノベーションラボ」とNTTPCコミュニケーションズさまの「Innovation LAB」の違いについて教えていただけないでしょうか?
A.NTTグループ各社で同様の施策を行っていますが、我々の強みはスピードであると考えています。新しい情報をキャッチして迅速にリリースできていると自負しています。
将来的にはNTT東日本さまとも協業したいですし、NTTグループ外のLABともつながりを持ちたいと考えています。
Q.具体的なイベント内容を教えてくださいますでしょうか?
A.7/10に、NVIDIAさまとALBERTさまとの共催セミナーを企画中です。
ほかにもご要望を頂戴できればぜひ一緒に企画していきたいと思いますのでお声がけください。
Q.参加条件は?
A.厳しい条件は設けていません。事業化を真剣に考えられている方にお貸ししたいため、事前にお伺いしていますが、今後も高いハードルを設定するつもりはありません。

さいごに

今回初めてオンラインでのセミナーを開催しましたが、多くの方にご参加くださり、盛会裏に終えることができました。Innovation LABでは今後もイベント、セミナーを開催したいと考えています。Webサイトでも案内していきますのでご期待ください。

ご参加くださったみなさま、ありがとうございました!