【生成AIによる業務変革LOG #2】

生成AIは社内での問い合わせ業務に使えるか？

• ・
  はじめに
• ・
  営業からの問い合わせが増えてきた！けど・・・
• ・
  生成AIが使えるのでは？でも・・・
• ・
  「データ連携」を使うには
• ・
  一般的な生成AI（GPT-4o）と「データ連携」ではどれだけ違うのか
• ・
  「データ連携」を使えば万事解決なのか？
• ・
  さいごに

社内の問い合わせ業務を、生成AI（LLM）のデータ連携機能（RAG）を利用することで効率化できるかを検証してみました。

私は「ビジネスプロセス支援サービス」というSaaSと光コラボレーション回線「ファイバーライン」のプロダクトオーナーを担当しています。「ビジネスプロセス支援サービス」とは、2016年5月に「業務支援プラットフォーム」という名称でスタートしたサービスで、その後現在の名称に変わりました。「ファイバーライン」のご契約やオーダーの内容がWebブラウザー上で管理できるSaaS（サース / サーズ）で、法人のお客さまに好評をいただいています。

おかげさまでここ数年お客さまへの提案機会が増えており、営業担当者を通してサービスに関するお問い合わせが増えてきました。提案書や仕様書、各種マニュアルは可能なかぎり用意しているのですが、お客さまへスピーディーな対応ができるかどうかがポイント。営業担当者が「プロダクトオーナーに聞こう！」となるのは自然なことですし、プロダクトオーナーとしてはお問い合わせを受けることはうれしい悲鳴でもあります。

ただ、NTTPCではワークライフバランスの充実に力を入れており、8割以上の社員がリモートワーク（テレワーク）で仕事をしています。また、担当者が有給休暇を取得することはあります（NTTPCのリモートワーク比率や有給休暇取得日数は「数字で見るNTTPC」をご覧ください）。担当者がいなくても安心して社内からの問い合わせに対応できないか？と考え始めました。

NTTPCでは、生成AIを活用した業務改善や新サービス開発に取り組んでおり、セキュリティを確保しながら生成AIが使えるよう、株式会社エクサウィザーズの「exaBase 生成AI（開発：Exa Enterprise AI）」を利用しています。導入時に社内で操作説明会が行われたのですが、話を聞いてハッとひらめいたのです。

「exaBase 生成AI」には「データ連携」という機能があります。RAG（Retrieval-Augmented Generation）とも言われる機能で、信頼性の高い情報の検索を組み合わせることで生成AIの出力精度を向上させる仕組みのことを指します。この「データ連携」を社内の問い合わせに応用できないか？と考えました。

生成AIはとても便利なのですが、懸念点の1つが「ハルシネーション」です。「ハルシネーション」とは、生成AIが誤った情報を出力してしまう現象のことを指します。生成AIが生成する文章は自然な文章なので、見極めるのが難しいのが現状です。お客さまからのお問い合わせへの回答のために営業担当者が生成AIで問い合わせた際、「ハルシネーション」が発生してしまうと、場合によっては取り返しがつかないことが起こりえます。特に光コラボレーション回線にまつわる用語は多岐にわたるため、1つひとつの言葉を正確にとらえる必要があります。

ここまで読むと「何か難しいことをやらないと実現できないのでは・・・？」と思ったかもしれません。ただ、ご懸念にはおよびません。「exaBase 生成AI」の「データ連携」は、Webブラウザー上の簡単な操作で使うことができます。

先述の通り、光コラボレーション回線にまつわる用語は独特なものがあります。例えば「転用」という用語があります。NTT東日本・NTT西日本の「フレッツ光ネクスト」から光コラボレーション事業者の光コラボレーション回線に契約を変更することを指すのですが、一般的な生成AIである「GPT-4o」と、「データ連携」で生成される文章の違いを見てみましょう。

ご覧いただいた通り、生成された文章に大きな違いがあります。「GPT-4o」では光コラボレーション回線に関する説明は出てこない一方で、「データ連携」では、ドキュメント管理のフォルダーに格納した仕様書やマニュアルを元に回答していることがわかります。

上述の通り「データ連携」を使うことで、生成AIがよりサービスの実態に即した回答をしてくれることは確かです。ただし、いくつか条件があると考えます。

• ※
  次はあくまで「exaBase 生成AI」の「データ連携」を使った上での仮説です。何か知見がありましたら是非ご教示いただけますと幸いです。

1. ドキュメントを揃えておくこと
   まず、生成AIで回答してもらうための情報を揃えておくことが必要です。「ビジネスプロセス支援サービス」はおかげさまで提案機会が増えるのに合わせて、営業担当者からドキュメントの追加や改定の要望を多くもらい、対応してきました。そのような蓄積があったため比較的導入しやすかったのですが、ドキュメント化に課題がある場合はネックになりえます。
   あと、利用している中で感じましたが、ドキュメントの１つに「FAQ（よくある質問）」を入れておくと、生成AIが回答の際に参照するケースがみられることもわかってきました。日頃から社内外から寄せられる質問と回答を蓄積しておいて、「データ連携」のフォルダーに入れておくだけで効果があるかもしれません。ただ、先述の通り、回答内容に機微な内容が入っていないかを確認することをお忘れなく。
2. ドキュメントを改定したら、「データ連携」のフォルダーもきちんと更新しておくこと
   意外に忘れがちなのが、この工程です。NTTPCの場合、営業担当者向けの情報開示用の場所が決められています。ドキュメントを改定したら、指定場所に格納するのとともに、「データ連携」のフォルダー内のドキュメントも差し替えることが必要です。「exaBase 生成AI」の「データ連携」のフォルダーは、Webブラウザー上でファイルの追加・削除が簡単にできます。
3. ドキュメント間で矛盾を起こさないこと
   「データ連携」は、フォルダー内のドキュメントに書かれている内容を元に回答しますが、仕様書とマニュアルで書かれている内容に不一致があった場合、ハルシネーションを起こす可能性があります。ドキュメントをアップロードする前に確認することをお勧めします。

4. どうやって社員に使ってもらうか
   「exaBase 生成AI」の「データ連携」の場合、

   • i.
     Webブラウザーでログイン
   • ii.
     トップページの「データ連携」を選択
   • iii.
     フォルダーを選択してから質問文を入力
   • iv.
     回答の文章を読む

   という工程を経る必要があります。ステップ数が多いと「めんどくさい」と思われがちです。理想を言えばチャットツール上のチャットボットのように使えれば気軽なのですが、2024年10月時点では解決できていません。社員が普段から使っているツールで何気なく使えればいいのですが、悩ましいところです。

今回は「exaBase 生成AI」の「データ連携」を社内の問い合わせに活用できるか、という観点で紹介いたしました。いくつか条件はあるものの、「データ連携」を使うことで生成AIによる社内問い合わせ対応が改善できるかも、と感じていただけたのではないかと思います。限られたリソースの中で効率よく問い合わせ業務を対応する手段の1つとして、「データ連携」を検討材料に加えておくといいかもしれません。何かの参考になれば幸いです。

• ※
  ファイバーラインは、NTTPCコミュニケーションズの登録商標です。
• ※
  「フレッツ」等は、NTT東日本・NTT西日本の登録商標です。