トヨタ、先進技術開発カンパニーにおいて開発者向けのセキュアな RAG 基盤を AWS 上に構築し、問い合わせへの回答・調査工数を 20％ 以上削減

部門内で乱立し個別最適化が進んでいた RAG を統合

「モビリティカンパニー」へのフルモデルチェンジを掲げるトヨタ自動車において、R&D 組織として未来の技術開発を手がける先進技術開発カンパニー。同カンパニーではボデー/シャシー設計、性能評価、システム開発、自動運転、材料開発、法規認証など、幅広い技術領域をカバーしています。

最先端の技術を先取りする同カンパニーは、2022 年末から生成 AI の活用を始め、一部の部門ごとに RAG を構築しながら検索精度を高めてきました。しかし、RAG が部門ごとに乱立し、個別最適化が進んでいました。また、RAG に知見がない部署では RAG を構築する事自体が課題でした。そこで、クラウドや AI を活用した技術開発をリードする先進データサイエンス統括部DS 基盤開発室が、トヨタのセキュリティポリシーに則った共通の技術検証用 RAG 基盤を整備し、カンパニー内に広く提供することになりました。

「これまで各部門がユースケースに特化した RAG を構築していたため、エキスパートでなければ使いこなせない、活用が属人化してしまうといった課題がありました。RAG の有効性が広く認識され始め、カンパニー全体でニーズが高まる中、知見のないユーザーでも手軽に使えるベースとなる RAG 基盤を構築することにしました」と語るのは、DS 基盤開発室 グループ長の馬渕充啓氏です。

RAG 基盤の構築はスモールスタートとし、最初のユースケースとして、自動車設計情報管理部門における問い合わせ対応を対象としました。同部門のエンジニアは、設計に必要な社内プロセスに関する質問を受ける機会が多く、ドキュメントや関連情報の検索に工数を取られていました。

「ヒアリングしてみると、課題解決への意識が高かったことから、自動車設計情報管理部門と DS 基盤開発室の共同プロジェクトとして推進し、問い合わせ業務の負担軽減を図ることにしました」（馬渕氏）

 Amazon OpenSearch Service を用いて高い精度を実現

2023 年 10 月にプロジェクトを立ち上げた DS 基盤開発室は、チャットボットに AWS が公開しているオープンソースの LLM Chat を活用し、AWS のサービスを用いて RAG 基盤を構築することにしました。

「AWS を採用した理由は、トヨタグループ内で多くの実績があり、かつ社内 CCoE が提供する TORO PF を利用することで柔軟性を損なうことなくセキュリティとガバナンスレベルの高い環境が構築できるからです。また信頼性の高いサービスが豊富に揃っていることや、AWS 上で利用できるオープンソースが充実していることを評価しました」（馬渕氏）

RAG 基盤の構築は、チューニングを重ねながら精度を高めていきました。DS 基盤開発室 主任の橋本哲弥氏は次のように語ります。

「特定の機能が不足した際にも対応ができ、精度を高める新機能が出た際もクイックに対応できるよう、自由度の高い Amazon OpenSearch Service を採用しました。

検索キーワードの意味を理解して最適な回答を導くセマンティック検索と、単語の出現頻度から回答を導くベクター検索によるハイブリッド検索を採用し、さらに検索文を拡張して高度化を図る技術手法を取り入れて検索精度の向上を実現しました」（橋本氏）

また、一般的ではない自動車独自の用語の表記ゆれにも対応し、正しい回答が出力できるようにしています。

「特に法規関連の文書には一般的でない用語が使われるケースが多く、例えばカーナビは“画面表示装置”、ウィンカーは“方向指示器”といった形で表記されています。そこで LLM による言い換えを作成し、Amazon OpenSearch Service に同義語として登録することで検索精度の向上を図りました」（馬渕氏）

Amazon OpenSearch Service の精度向上に取り組む一方、並行して RAG 基盤として提供するための非機能要件を実装し、認証情報の一元管理を目的としてトヨタの社内認証システムとの統合と、部門間でも共有して利用できるようにアップロードしたファイルへのアクセス権限分離を実施しました。DS 基盤開発室の川端伸一朗氏は「既存のままではアカウントの発行や管理に負荷がかかるため、社内認証システムとの統合を図り、誰でも手軽に利用できるようにしました。ID 情報をもとに管理者、メンテナンス担当者、利用者の 3 つの権限を設け、データ保護に配慮したアクセス環境を構築しています」と語ります。

開発時は AWS プロフェッショナルサービスの支援を受け、週 1 回の定例ミーティングやビジネスチャット、タスク管理ツールなどでコミュニケーションを重ねながら進めました。

「自動車設計情報管理部門からのフィードバックにより、検索要件や検索精度など機能要件に関する優先順位が変わる中、プロフェッショナルサービスの担当者には柔軟に対応いただき、有益な議論を重ねることができました。開発の初期段階でモックアップを作成し、実際に動くものを見ながらブラッシュアップできたことも助かりました。非機能要件の社内認証システムとの統合に関しても権限分離や UI の改善に関するアドバイスを適宜受けながら進めました」（川端氏）

設計情報管理部門のユースケースでは問い合わせへの回答・調査工数を 20％ 削減見込み

RAG 基盤の構築は 2024 年 11 月で完了し、自動車設計情報管理部門での利用を開始しました。その後、法規関連部門や開発部門などにも展開し、2024 年 12 月時点で 11 部門の約 150 名が利用しています。

問い合わせ時の回答作成工数については、厳密な効果測定は行っていないものの、机上計算では 20％ 程度の削減を見込んでいます。検証段階では、ドキュメントやナレッジが RAG に登録されている情報に関する質問を投げかけた場合の条件下においては、50％ 程度の調査工数削減ができたといった報告も受けています。

「ユーザーからは、ナレッジの属人化が解消できた、回答と同時にベースとなる文書を示してもらえるのはありがたい、今までになかったユーザー体験だったといった声が届いています」（川端氏）

DS 基盤開発室においてもユーザーニーズに応えたプロダクトが提供でき、RAG 構築のノウハウが貯まったことが成果となりました。

「成果を得るまでに時間を要する R&D 部門において、1 年足らずで目に見える形でユーザーの調査工数を削減することに貢献ができました。併せて R&D 部門として、検索精度を高めるための技術に挑戦したことで、成長につながりました」（馬渕氏）

今後はナレッジが揃っていないケースにおいても、複数のドキュメントを参照しながら高い精度で結果を返す機能の強化や、データ登録手法の改善などを検討するとともに、最新の技術を検証する場として活用を進めていきます。RAG 基盤の提供方法についても、自分たちのシステムに組み込みたい、用途に特化した RAG システムを作りたいといった部門ユーザーのニーズに応えて、利用環境の提供だけではなくソースコードや API での提供も検討しています。

「API については、シンプルに RAG を提供するものや、効果的な回答を引き出すためのものなど、実装方法も含めて使いやすい API を開発していきます。AWS には今後も安定的に稼働できる基盤として引き続きサービスの強化に期待しています」（橋本氏）