【寄稿】アオラナウ株式会社、AWSのGenUを活用した社内RAGシステムで技術調査業務の効率化を実現

はじめに

生成 AI の活用が企業の競争力を左右する時代となっています。しかし、PwC 社の生成AIに関する実態調査2024 春米国との比較によると、「必要なスキルを持った人材がいない」や「ノウハウがなく、どのように進めれば良いか、進め方がわからない」、「意義やメリット、費用対効果を感じない」といった課題があるなど、多くの企業では、生成 AI の導入にあたって、技術的なハードルや、コスト面での課題を抱えています。

アオラナウ株式会社（以下、アオラナウ）は、AWS が提供する Generative AI Use Cases JP （通称: GenU）を活用することで、わずか 2 週間という短期間で社内 RAG システムを構築し、ドキュメント検索時間が従来の 1/5 程度に短縮するなど、大幅な業務効率化を実現しました。本ブログは、アオラナウがどのように GenU を活用したか、アオラナウの AI プロダクト開発部の金山陽希氏から寄稿いただいたものです。

課題：ベンチャー企業における業務効率化の必要性

アオラナウは、従業員数 50 名を超えるベンチャー企業です。技術的な熟練度が高いメンバー（高度技術者）と、未経験メンバーが入り混じっており、プロジェクト運営の際に以下のような課題が生じていました。

高度技術者は、膨大な技術ドキュメントの効率的な探索に時間がかかる
未経験メンバーは、高度技術者への問い合わせに時間を使っており、双方の時間を使われる
未経験メンバーは、忙しい高度技術者への質問を躊躇してしまう

これらの課題を解決するために、最新の生成 AI 技術である RAG を利用したいと思いましたが、AI 導入においては、限られた予算内で実施できるよう工夫する必要がありました。

ソリューション：GenU を活用した社内 RAG システムの構築

AWS の AI/ML ソリューションアーキテクトである呉和仁氏（@kazuneet）に相談したところ、AWS が提供する Generative AI Use Cases JP（通称: GenU、以降 GenU と略す）をご紹介いただき、私たちは GenU を基盤とした社内 RAG システムの構築を決定しました。

＜GenU を採用したポイント＞

すぐにデプロイできる
AWS の技術者が構築した質の高いコードがすぐデプロイできる状態で用意されており、自社での開発工数を大幅に削減できることが魅力でした。導入手順も丁寧に解説されており、AWS 未経験者でも容易に導入することが出来そうでしたし、結果として容易でした。
カスタマイズの柔軟性
最新の LLM モデルを設定ファイルの変更のみで導入できたりと、カスタマイズが柔軟にできるように設計されておりました。また、GenU の利用状況のモニタリングや、ユーザーからのハルシネーション報告などをもとにデータを修正するシステムを簡単に連結することが出来ました。
コスト最適化
サーバーレスアーキテクチャが最大限活用されており、ほぼ利用分のみの安価な運用コストも大変魅力的でした。ベクトル DBに Pinecone などのサードパーティー製品を利用するためのガイドもあり、さらなるコスト最適化の検討が容易なように設計されていました。

アーキテクチャ

システムは以下のように、GenU をベースとして、弊社独自に GenU を管理するためのシステムを構築しています。

ServiceNow の技術ドキュメント（日本語/英語）60,000 ページと、600,000 件の QA データを元にした社内 RAG システムを、2 週間で構築することができました。

アオラナウでの GenU 構成

ユーザーは、GenU の画面から、RAG チャットを利用して技術的な質問をすることが出来ます。

アオラナウでの GenU 利用イメージ

GenU管理システムでは、ユーザーの利用状況のモニタリングや、ユーザーからのハルシネーション報告を元にデータの修正作業を行えるようにしています。

アオラナウでの GenU ダッシュボード

GenU の導入効果

GenU を導入することで、以下のような効果を月々数万円程度のコストで実現することが出来ました。

高度技術者は、ドキュメント検索時間が従来の 1/5 程度に短縮
未経験者の高度技術者への問い合わせ件数が削減
未経験者はまず GenU で調査した後、高度技術者に深い内容を聞くという質問の質の向上

結果として、プロジェクトを効率的に進めることができるようになったと体感しています。

今後、プロジェクトの成果物まで生成 AI が作成サポート出来るか、検証していく予定です。

まとめ

GenU の活用により、私たちは短期間かつ低コストで高度な RAG システムを構築することができました。特筆すべきは、AWS の MLSA である呉氏による手厚いサポートです。技術的な課題に直面した際も、迅速な解決策の提案をいただき、スムーズな導入を実現できました。

ベンチャー企業にとって、効率的なリソース活用は重要な課題です。GenU は、その解決策として非常に有効なツールとなりました。今後も、AWS の提供するサービスを活用しながら、さらなる業務改善を進めていきたいと考えています。

執筆者について

アオラナウ株式会社の AI プロダクト開発チームです。

金山陽希
フルスタックエンジニア。ソリューションの設計、実装を担当しています。
新しいAI技術と前職でのWebアプリケーション開発の経験を活かし、なにかを実現することを楽しんでいます。
近頃足回りを囲むパネルヒーターを手に入れたので、今冬はこれだけで乗り切ろうかと画策中。

宍戸凌雅
オペレーションエンジニア。本プロジェクトで運用設計を主に担当しています。
前職で培った経験を活かし、効率的で効果的な運用フローの構築に努めています。
生成AIを仕事やプライベートで積極的に活用しており、その可能性を追求することで世の中に貢献したいと考えています。
趣味は散歩や筋トレで、体力づくりを楽しみながらリフレッシュしています。

鄭巽
AIエンジニア兼開発リードとして、チーム管理作業と実装作業を担当しています。
前職で培った統計知識と開発経験を活かし、適切な解決策を考えて事業価値を創出しています。
画像認識や生成モデルの分野に興味を持ち、実務の中で実践できることを楽しんでいます。
人と技術の橋渡し役として、チームのモチベーションを高めつつ、成果を引き出せるよう努めています。

保田駿介
ServiceNowコンサルタント。お客様とのPoC実施、プリセールス活動を実施。生成AIを含むAI/ML技術の支援を担当しています。
様々な業界のServiceNowやSalesforceの導入を支援していた経験を生かし、ビジネス上の課題や業務課題解決するためのAI/MLソリューションの提案や導入支援に努めています。
BizDevの役割ではありますが、技術面もキャッチアップを怠らず進めていこうと思ってます。

李溶基
ServiceNowアーキテクト。AWSとServiceNowの連携部分の開発を担当。REST API開発経験を生かし、ビジネス上の課題を解決するためのAI/MLソリューションの提案や導入支援に努めています。
プライベートではランニングやジム通いを通じてストレスを発散しています

伊藤芳幸
エンジニア。前職の経験を活かし、AI/ML技術とServiceNowを融合させ、企業の生産性向上の新しい可能性を模索しています。
新しい技術に触れることは楽しみの一つで、積極的に手を動かしています。プライベートでは育児に忙しい日々を送っていますが、フットサルやジム通いを通じてストレスを発散しています。

参考情報

Generative AI Use Cases JP
Amazon Bedrock ユーザーガイド
 AWS Lambda 開発者ガイド
 Meta knowledge for retrieval augmented large language models (amazon science)

Amazon Web Services ブログ