Amazon Web Services ブログ

KDDIアジャイル開発センターの生成 AI 開発の取り組み：Amazon Bedrock 統合のチャットボットをグループ4社に展開

本ブログは、KDDIアジャイル開発センター株式会社 テックエバンジェリスト 御田稔氏、同ソフトウェアエンジニア 末光一貴氏、アマゾン ウェブ サービス ジャパン合同会社 ソリューションアーキテクト 新谷 が共同で執筆しました。

はじめに

KDDIアジャイル開発センター株式会社（以下、KAG）は、サービスデザインとアジャイル開発手法によりビジネス創出からプロダクト開発を一貫してサポートするプロフェッショナル集団です。日頃から積極的な情報収集やアウトプットを通じて、自身のスキルアップと社内外のビジネス課題解決のために技術力を研鑽しています。昨今飛躍的に進化を続ける生成 AI に対しては、社内で KAG Generative AI Lab という専門チームを創設し、急速なスピードで発展する生成 AI のキャッチアップとプロトタイプ開発を行うとともに、生成 AI を活用するための開発環境整備、セキュリティ等の周辺情報に関する知識獲得を目標として活動しています。

本ブログでは、KAG の寄稿により、 Amazon Bedrock 統合の生成 AI チャットボット「かぐたん」について、導入背景、実現方法、導入効果について解説します。

導入背景

生成 AI の登場以降、KAG 内においても日常業務への積極活用が推進され、非エンジニア含む全ての社員が当たり前に生成 AI を利用する状況が求められています。また、サービス開発通じた持続的な価値提供のため、エンジニアの生成 AI の実践知獲得は全社課題といえる状況です。一方で、生成 AI をオープンに利用してしまうことで、セキュリティガバナンスやシャドー IT 等のコンプライアンス懸念も社内で指摘されていました。そこで、KAG は社内で標準採用されている Slack をインターフェースとして、セキュアで安全に利用できる生成 AI 環境を Amazon Bedrock により開発しました。

Slack 統合の生成 AI チャットボット「かぐたん」

KAG は、生成 AI を日常的なコミュニケーションの延長線上で利用できるよう、Slack 統合のチャットボット「かぐたん」を開発しました。「かぐたん」は、全ての社員の日常業務に溶け込む形で自然に利用可能です。社員の様々な質問やタスク依頼に対して、フレンドリーで親しみやすい回答を生成します。

「かぐたん」の特徴はセキュアに利用できる点です。全ての会話履歴とログを保存すると共に、生成 AI へのリクエストを受け取るサーバー側はパブリックなエンドポイントを公開しない安全な通信方式を採用しました。これにより、社内のセキュリティ監査をパスし、業務情報の送信も可能となっています。また、ユーザーからのフィードバックフォームを設け、プロンプトチューニングによる精度改善や機能追加へ活用できるよう工夫しています。更に、KAG の所属する KDDI Digital Divergence Holdings グループ各社へ展開していく事も見越し、簡単にマルチテナント展開できる拡張性も備えています。

導入効果

「かぐたん」公開開始から徐々に需要の高まりを確認し、現在では KAG だけでなく KDDI Digital Divergence Holdings グループ 4 社の約 1, 200 名に展開するに至り、毎月約 2,000 リクエスト程度の利用を確認しています。Slack 統合により日常的なコミュニケーションツールとして活用できるようにしたことで、法務やコーポレート部門など非エンジニアにも生成 AI 活用が広がっています。以下は社員からのフィードバックの一例です。

  • 用途：法令の概要をまとめてもらう、知らない概念について解説してもらう、など

    • 感想：すごい！まるで人と話しているようです。回答の内容も大いに参考になるのですが、私の話の要点を正確に把握して、まずは共感してからアドバイスし始める様などは、コミュニケーションの参考になるなあと思いながら眺めています笑
  • 用途：翻訳、技術的な用語の簡単な説明、など

    • 感想：Slackで気軽に呼び出せるので使い勝手がとても良いです

Claude の特徴である高い日本語性能も、チャットボットのユーザー体験向上に大きく寄与することがわかりました。

アーキテクチャ

「かぐたん」は AWS のマネージドサービスをフル活用して構成しています。Slack 上で「かぐたん」をメンションすると、バックエンドの AWS Fargate 上のアプリケーションがメッセージを受信し、質問内容にプロンプトを付与して Amazon Bedrock の Claude 3 を呼び出します。Websocket を活用する Slack ソケットモード を採用し、AWS Fargate アプリケーションは HTTP エンドポイントを公開しないセキュア通信を実現しています。また、Amazon DynamoDB に会話履歴を保存することで、不適切な利用の有無を管理できるようにしています。

所感と今後の展望

「かぐたん」を組織の Slack ワークスペースに導入したことで、大規模言語モデルを一部エンジニアのみの利用に留めず、全社員が利用できる環境を提供することができました。これにより、非エンジニアのメンバーにおいても、大規模言語モデルとは何か、業務にどのように適応できるかを考えるきっかけになったと感じています。

Amazon Bedrock を使用したアプリケーション開発を行う上で、情報の取り扱いに関する AWS の思想やポリシーが明瞭であることは利用する側にとって大きな信頼感がありました。言語モデルも日本語対応した複数のモデルから選択することができ、最新モデルへの切り替えもわずかな実装変更で済むなど、開発者にとっても使いやすい環境であると感じました。

今後は、 Knowledge bases や Agents など Amazon Bedrock の機能を使用して自社およびグループ会社へのさらなる価値提供に向けた高度化を目指すことに加え、本プロダクト開発で得られた知見を基に、お客様の課題解決を実現する新たなプロダクトの創出にも積極的に取り組んでいきたいと考えています。

まとめ

本ブログでは、KDDIアジャイル開発センター株式会社による、 Amazon Bedrock を活用した生成 AI チャットボットのグループ会社展開事例をご紹介しました。生成 AI の社内展開に際しては、セキュリティ、社員への浸透、継続的な改善を課題視されるお客様もいらっしゃると思います。本事例では、日常利用する Slack をインタフェースとしながら、安全な通信と自社 AWS 環境内での各種ログ保存により社内監査をパスし、使いやすさとセキュリティを両立しています。皆様の生成 AI 活用の参考になれば幸いです。

著者

御田 稔
KDDIアジャイル開発センター株式会社　開発5部　テックエバンジェリスト

末光 一貴
KDDIアジャイル開発センター株式会社　開発5部　ソフトウェアエンジニア

新谷 歩生
アマゾン ウェブ サービス ジャパン合同会社 技術統括本部 ストラテジックインダストリー技術本部 通信グループ
シニアソリューションアーキテクト