国民向けコールセンターの AI チャットと会話内容を要約する

「国民に、ちょっとしたことであっても本当に気軽に相談・確認を行っていただきたい。」国民を大切にするどの行政でも同じ思いであります。しかし長い待ち時間や、適切な情報提供の欠如、利用者への丁寧な対応の不足などの人的リソースや応対品質への課題があり、利用者である国民にとって満足のいくサービスへとよりよい仕組みに発展することが望まれるケースが散見できると思います。

現在において機械応答の中心であるチャットボット（自動チャット）では、適切なキーワードが必要であったり、複雑な文脈に対し十分な回答を行うことが難しく、結果として多くの質問が有人 Channel であるコールセンターに殺到してしまう結果が想定されます。せっかくオペレータの人的リソースをカバーしてくれるチャットボットを用意しているのですから、国民の相談に対し、チャットで満足度の高い回答を出すことができれば、この課題に向けたひとつの解決策につながるのではないかと思います。

そこで、生成 AI でチャットの回答を生成できないか考えてみました。

行政における問い合わせは、例えば下記のように制度や手続きに対する質問が多い傾向があると考えられます。

• 税金の申告方法や控除について教えてください。
• パスポートの申請手続きや必要な書類について教えてください。
• 助成金や補助金の申請条件と手続きを教えてください。
• 健康保険の加入や手続きについて教えてください。
• 高速道路料金の支払い方法や割引について教えてください。
• 失業保険の受給条件や手続きについて教えてください。
• 子供の教育に関する支援制度や申請方法を教えてください。
• 災害対策や避難場所について教えてください。
• 環境保護に関する法律や規制について教えてください。
• 法律相談や訴訟手続きに関する情報を教えてください。

これらの情報に対しては FAQ などの定形文による回答では、具体的かつ個別の状況を加えられた質問に対しては質問の文脈にそった回答を行うことは困難です。このようなユースケースに対して、生成 AIが回答を生み出す AI チャットボットが真価を発揮します。加えて、この種の質問に対しては一般的な質問以上の正確性と信頼性を確保や、法律や規制あるいは手続きの変更に追従した正しい説明・提案を回答として提示できる必要があります

生成 AI アプリケーションの出力を中央省庁で公開可能なデータのみに制限することでこの課題をクリアすることができると考えます。検索拡張生成 (RAG, Retrieval Augmented Generation) と呼ばれる手法を使用することが効果的です。RAG アプローチを使用するアプリケーションは、ユーザーのリクエストに最も関連する情報を中央省庁のナレッジベースまたはコンテンツから取得し、それをプロンプトとしてユーザーのリクエストとともにコンテキストとして束ね、大規模言語モデル（LLM） に送信して 生成 AI レスポンスを取得します。

RAG を用いることで、チャットの回答に対し情報元となった文書・ウェブページへのリンクを明示できれば、生成 AI によるハルシネーション (誤った発言)による誤解を低減させることができ、安心して国民に向けて情報提供を行うことができます。

生成 AI によるチャットボットは、国民を待たせることはなく、会話のような自然言語を用いて気軽に問い合わせを行いことができるサービスを提供できます。もちろん利用者がチャットボットを利用したうえで直接オペレータとの会話を望まれる場合、シームレスに連携を行うことができ、オペレータはチャットのログを参照することで、音声通話の概要を理解することができます。オペレータがチャットのログを短時間で確認するために生成 AIを用いて文書要約を行っておくことも可能です。

文章要約に関しては、チャットやオペレータの対応に対する同時にカテゴライズや感情分析も行えます。その結果を分析することで、国民の声の収集ができます。また優れた回答に関してはファインチューニングのための教材として再活用することができます。

今回の構成では、 Amazon Lex によるチャットボット、 AWS Lambda 、Amazon Kendra による検索拡張生成（RAG）および大規模言語モデル（LLM）による要約文の生成というフロントエンドの構成と、 Amazon Transcribe による音声のテキスト化とチャットログを大規模言語モデル（LLM）による要約文の生成および、 Amazon Comprehend によるカテゴライズ、感情分析というバックエンドの構成を行っています。

AWS の人工知能や機械学習（AI/ML）の機能を生成 AIと組み合わることで一見複雑そうなシステムをブロックを組むように簡単にビルドすることができます。大規模言語モデルもAWSのプライベートな生成 AIとしてデプロイすることでよりセキュアな生成 AIの実行環境を提供することができます。

おまけ情報ですが、大規模言語モデルを活用する上で人気のフレームワーク LangChain も AWS Lambda 上で利用できます。このようにライブラリを簡単かつ柔軟に活用できるアーキテクチャということも、嬉しいポイントではないでしょうか？

コールセンターのオペレータの業務効率や応対品質の均一化と向上を目指して AWS の AI/ML 技術てんこ盛りのソリューションを提案しました。

AWS の VPC 上にデプロイされたプライベートな大規模言語モデルを利用することでセキュアな生成 AI 環境を構築できるユースケースです。収集されたチャットログや音声テキスト情報を要約した結果を用いてファインチューニングを実施することや RAG を合わせることで、継続的な進化と新しい情報への追従を実現しています。今回は AI チャットボットとログの文書要約でしたが、この考え方はいろいろなシステムへの応用が利くアーキテクチャであると思います。ぜひ生成 AI を活用して、業務の効率化と国民や職員のエクスペリエンスを向上していただければと思います。