エクサウィザーズ、Amazon Bedrock を活用して“育てるRAG”をコンセプトとした『RAGOps』テンプレートを 1 か月で開発

生成 AI の継続的な改善を支援する『RAGOps』を開発

「AIを用いた社会課題解決を通じて、幸せな社会を実現する」をビジョンに、2016 年に設立されたエクサウィザーズ。現在、同社は自社開発の AI プラットフォームを機軸に顧客の経営課題を解決する AI/DX プロジェクトの推進と、企業や社会の課題を解決する AI プロダクトの開発・提供の 2 軸でビジネスを展開しています。「AI を活用したソリューションや自社プロダクトの開発・提供を通して、難解な社会課題を解決に導くことが私たちのミッションです」と語るのは、代表取締役社長の春田真氏です。

同社は、AI プラットフォーム事業の 1 つとして、現場を巻き込んで設計・開発できる SaaS 型の AI アプリケーション開発プラットフォーム『exaBase Studio』を提供しています。顧客を中心とした開発支援をコンセプトとする exaBase Studio は、社内外の AI モデル、サービス、データを組み合わせて、ソフトウェアを設計・開発できる開発環境です。「AI 開発の煩雑な手順を自動化することでプロセスに変化をもたらし、AI の民主化を実現するために SaaS として提供しています」と春田氏は語ります。

同社では、exaBase Studio 上で利用可能なテンプレートを複数用意しており、テンプレートを組み込むことですぐに必要な機能を展開し、プロトタイプを動かしながら AI アプリケーションを開発することができます。今回、新たなテンプレートとして Amazon Bedrock を活用した『RAGOps』を開発し、2024 年 5 月にリリースしました。

開発の背景には、生成 AI の回答精度を高める RAG（検索拡張生成）を導入している顧客の中で、「期待した結果が得られない」「生成 AI による誤った回答が社内に広がってしまうのが心配」などの声がありました。取締役の坂根裕氏は次のように語ります。

「RAGを導入したお客様の多くの悩みとして、PoCの段階では精度が出たものの、ビジネスで使い始めると回答品質が低下して、期待した精度が得られないといった課題がありました。そこで、生成 AI の回答品質をお客様自身で継続的に改善できる仕組みとして RAGOps を開発しました」

RAGOps は“育てる RAG”をコンセプトとしたテンプレートで、運用の中でユーザーの評価をもとに RAG の品質を改善する機能を有しています。ユーザーの評価が高い回答は専用のキャッシュ DB に格納し、類似の問い合わせに対しては RAG を介することなくキャッシュ DB から回答することで、コスト効率化と回答品質を高めています。人手でのオペレーターによるアンサー DB の機能も備え、オペレーターが回答を登録した後は類似の質問に対してアンサー DB の情報をもと回答します。執行役員 exaBase事業部 事業部長の大字沙織氏は「テンプレートを使って RAG を素早く立ち上げ、現場での業務利用の中でデータを取得しながら、運用の中で精度を高めていくことができます」と説明します。

プラットフォームとセキュアに接続できる Amazon Bedrock を採用

RAGOps では、AWS の環境上で動作する exaBase Studio を通じて Amazon Bedrock を直接呼び出し、各種の LLM を API 経由で利用することができます。そのため、効果の高い LLM を選択して精度を高めることが可能です。

同社が LLM の基盤に Amazon Bedrock を採用した理由は、AWS 上に構築しているexaBase Studio とシームレスに連携ができること、データとアプリケーションを安全かつプライベートに構築できること、複数の高性能な LLM の選択肢があることにありました。

「AWS はエクサウィザーズのメインのクラウドサービスであり、多くのサービスで採用しています。そのため開発者にとって扱いやすいのが AWS を採用した理由です。

Amazon Bedrock についても Anthropicの Claude でのコード生成などでも非常に回答精度が高いことがわかりました。それ以上に大きかったのは AWS ジャパンのソリューションアーキテクトの技術レベルの高さです。お願いした難解な要望や質問の核心をしっかり把握し、的確な回答をいただけたことに驚き、ぜひこのメンバーで協力して進めたいと考えました」（坂根氏）

開発は 2024 年 4 月から 5 月までの 1 か月で実施しました。Amazon Elastic Kubernetes Service（Amazon EKS）をメインに Kubernetes のエコシステムを活用したアプリケーションを開発。データ保護では、プライベート接続ができる AWS PrivateLink を活用して exaBase Studio と Amazon Bedrock 間を閉域網でつなぎ、データ流出のリスクを回避しています。

金融機関や大手企業がデリバリーに向けて PoC をスタート

2024 年 5 月にリリースした RAGOps は、直後から多くの引き合いが寄せられ、大手金融機関をはじめ、交通インフラ系の企業など、複数の大手企業が本番導入に向けて PoC 環境での評価を進めています。デリバリー期間は、求める精度、連携するシステムの数、ユースケースなどで異なるものの、テンプレートを活用することで最短 2か月程度での導入が可能です。

「RAG の改善に悩まれていたり、使い勝手やセキュリティ基準が高い RAG を探されていたりするお客様は多く、現場でデータを貯めながら精度を高めていく RAGOps に興味をいただいています。現在も多数の依頼をいただいているため、今後は RAG の品質評価やハルシネーションへの対策に関する機能をリリースし、お客様の要望にスピーディに応えられるようにします」（大字氏）

今後に向けては、データベースやストレージを始めとした AWS リソースとの連携を検討しています。そして、エンタープライズが求めるサービスへと進化させていく方針です。

「私たちがお客様からいただく声として、生成 AI や LLM に対する期待が日に日に高まっていることを実感しています。エンタープライズのお客様に安心してプロダクトを使っていただくためには、何よりもセキュリティとコストの 2 つが重要です。開発者とユーザーに寄り添う AWS の姿勢は私自身も実感していますので、引き続きサービスの充実と進化を期待しています」（春田氏）

坂根氏は「今後は『RAGOps×Amazon Bedrock』の価値を体現する実用化事例を多く創出していきたいと考えています。AWS と緊密な連携を図りながら私たちからもお客様に対して積極的に発信していきます」と語ります。