はじめに:JANOGミーティングとは
「JANOG」とはJapan Operators' Groupの略称です。毎年開催されるJANOGミーティングでは、ネットワーク分野の技術的なトレンドや、ネットワークに携わる各社の取り組みについて議論することで、日本の技術者、ユーザーに貢献することを目的としています。
2024年7月3日から3日間奈良で開催されたJANOG54ミーティングに、新入社員の私が参加しました!本記事では、セミナーや展示を通して学んできた内容をご紹介します。
会場:奈良コンベンションセンター(JANOG54公開資料より抜粋)
https://www.janog.gr.jp/meeting/janog54/
セミナー:LINEヤフー米国データセンタ技術の最前線:
LLM(大規模言語モデル)と水冷技術への挑戦
(発表者:Actapio, inc. 松谷憲文さま)
昨今AI技術が急速に発展する中で、その基盤となるデータセンター内の熱の排出方法として「水冷」というキーワードをよく耳にします。
そこで今回は、水冷技術に関するセミナーの内容を紹介します。
参考:LINEヤフー米国データセンタ技術の最前線:LLM(大規模言語モデル)と水冷技術への挑戦
2022年にリリースされた「ChatGPT」は、まるで人間とチャットしているかのような滑らかな応対が行える対話型のLLM(大規模言語モデル)です。リリース以降急速にユーザー数が増加した結果、ChatGPTを稼働させるサーバーの負荷が大幅に増加しました。
ChatGPTのようなLLMを稼働させる場合、膨大なコンピューティングリソースが必要になります。これは単にサーバーのスペックを増強すればよいというシンプルな話ではなく、「サーバーを冷やすために必要な風量増加による空調機の風量不足」も深刻な問題となりました。通常、サーバーはファンを使って空気で冷やしますが、GPUを搭載したサーバーは排熱量が大きく、その分大きな風量で冷やす必要があります。
しかし、データセンターに設置されている空調機の風量には限界があります。空調機の風力不足が発生すると、データセンター内部の圧力バランスが保てず、温度制御ができなくなる可能性が高いそうです。
解決策として考えられたのが、サーバーを水で冷やす「水冷方式」です。今回の発表者の方は、商用化されているいくつかの水冷方式の中でも、AALC(Air Assisted Liquid Cooling)を導入されました。これにより、大規模なサーバーを冷やすために必要な風量を確保できるようになりました。
JANOG54公開資料「LINEヤフー米国データセンタ技術の最前線:LLM(大規模言語モデル)と水冷技術への挑戦」P.61より抜粋
セミナーでお話を聞いて、米国の水冷技術がいかに進んでいるかを少し実感できました。台湾などの他国の展示会でも、水冷技術がトレンドだったとのことで、今後ますます「水冷」という言葉が身近になりそうです。それとともに、現在の日本の水冷技術はどこまで進んでいるのか、海外諸国のように普及していくのか?という疑問も湧いてきました。
私達ドコモグループの中では、NTTコミュニケーションズ株式会社が液冷方式サーバーに対応したデータセンタサービス「Green Nexcenter®」を提供しています。今回のJANOG54でももちろん大々的に紹介していました。
また、Softbankグループでは、ネットワークのグリーン化に向け、水冷技術を適用した光伝送システムを展開しています。それだけでなく、今回のJANOG54では水冷データセンターの建築を検討しているというお話もされていました。
他にもKDDIグループは他企業とタッグを組んで、液浸冷却装置の利用を想定したデータセンターの実証実験を行っており、水冷技術の展開は今後日本でも積極的に進んでいくのかなと感じました。当社もAI技術の活用とともに、水冷技術に関しても他企業とタッグを組むことで、他に引けを取らないサービスを提供できるのではないかと思いました。
展示:NTTコムエンジニアリング株式会社の海底ケーブル
イベントだけでなく展示もたくさん見てきましたが、その中でもNTTコムエンジニアリングのトピックであった海底ケーブル事業を紹介していきます。
私は、海底ケーブルという言葉を特に意識したことはありませんでしたが、「海底の動脈」、「インターネットの高速道路」とよく例えられるほど、通信において重要な役割を果たしていることを知りました。
NTTコムエンジニアリングの海底ケーブル事業は、国内外との通信インフラを支えており、ケーブルは日本とつながるものだけで約30本、世界では400本以上存在し、総延長は130万キロに及ぶそうです。
実際のケーブルを見せてもらいましたが、光ファイバーが中心にあり、その周りがかなり厳重に保護されていました。このケーブルが、海の深いところで日本の通信を支えていることを実感できました。
このようにNTTコムエンジニアリングは海底ケーブルの保守を行っており、海底ケーブルの施設には、NTTワールドエンジニアリングマリンが運用する「きずな」という船舶が関わってきます。きずなは深海においても正確にケーブルを設置できるように設計されているだけでなく、災害対応機能を付加したケーブル敷設船となっています。実際に昨年の九州大雨災害時には迅速な通信復旧を対応し、その保守部隊としてNTTコムエンジニアリングが関わったそうです。話を聞くだけでもスケールがすごかったです!
今回お話を聞いて印象的だったのは、海底ケーブルの保守運用を、24時間365日対応されているということです。責任の大きな事業だからこそだと感じましたし、お客さまの信頼獲得という点でも学ぶことが多かったです。
NTTPCは国内向けのサービスを提供していますが、国外通信について、私自身でも今後さらに勉強していきたいと思いました。
NTTコムエンジニアリングの海底ケーブル
JANOGの裏側:NOCツアー
イベント2日目~3日目には、会場のネットワーク構築の裏側を見学できる「NOCツアー」が開催されました。先着順でしたが、なんとか整理券をGetし私も参加できました。
ちなみに、3日目のツアー参加には年齢制限(25歳以下限定)がありました。
主に会場Wi-Fiを構築するにあたってのネットワーク機器、配線状況など色々と見学しました。興味深かったのが運営チームメンバーの多くが学生の方だったことですね。企業からルーターやサーバー(高性能な機械ばかりでビックリ!)の提供を受け、論理設計や物理工事の多くを学生が主体となって実施されていました。なんとLANケーブルまで自作だったのは驚きです。今回は長さ50mのケーブルを作ったとのこと。
会場内はWi-Fi6対応で、Cisco社のルーター・L2スイッチや無線LANルーターが導入されていました。DHCPのIPリース数をリアルタイムでモニターしていて、ツアー時は約4000台接続されていました。このレベルの構築を学生が行ったことに、駆け出しエンジニアの私は「もっと自分も頑張らないと...」と思うばかりでした。
写真撮影&SNS公開OKでした!
NTPサーバーと時刻同期しているところ
まとめ:新入社員がJANOGミーティングに初参加してみた
今回初めてJANOGミーティングに参加して強く感じた印象は、「技術初心者に優しく、熱意がある」ということです。
初心者・若手限定のプログラムから、ネットワークのスペシャリストの議論など、様々な経緯の参加者が十分に満足できるようにプログラムが企画されていました。その上、参加されている企業の方々は専任の技術者が多く、私のように「勉強しに来ました!」という参加者にも、単なる製品説明だけでなく、ネットワークの基礎的な部分まで丁寧に教えてくださいました。
そのため、ネットワーク初心者や若手こそ参加するべきイベントだと感じました。
次回のJANOGミーティングでは、より有意義な時間を過ごせるよう、スキルアップに尽力したいと思います。
会場入口
技業LOG
NTTPCのサービスについても、ぜひご覧ください