Itaú が Amazon Web Services を利用して ML ソリューションの市場投入までのスピードと生産性を改善

Itaú は、ブラジル、ラテンアメリカ、および世界中の他の 18 か国の顧客に銀行サービスを提供しています。95,700 人を超える従業員を擁しており、そのうち約 15,000 人が IT 部門で働いています。Itaú の元のインフラストラクチャは完全にオンプレミスであったため、コストが高く、開発には長い時間がかかっていました。オンプレミスのインフラストラクチャも、物理的なスペースとハードウェアによる制約を受けていたため、スケーラビリティに欠けていました。同行のデータグループでは、データサイエンティストはメモリとリソースが使用可能になるまで最大 6 か月間待たなければならず、同行のデプロイ待ちリストには 100 を超える ML モデルが含まれていました。

これらの課題を克服するために、Itaú はビジネスの一部をクラウドに移行することを決定し、AWS を利用することにしました。「オンプレミスからクラウドへの移行を選択した理由の 1 つは、ビジネスの競争力と効率性を同時に高める戦略でした」と Itaú の ML Engineering Manager である Diego Nogare 氏は述べています。

移行開始から約6か月後、Itaúは柔軟でクラウドネイティブなMLソリューションとして、 Amazon SageMakerを選択しました。これは、フルマネージド型のインフラストラクチャ、ツール、ワークフローを備えた、あらゆるユースケースに対応したMLモデルを構築、トレーニング、デプロイするサービスです。「当行は AWS を利用してソフトウェアとデータを変換しようとしており、AWS で完璧に機能するソリューションを必要としていました」と Itaú の Data Science Superintendent である Vitor Azeka 氏は述べています。「Amazon SageMaker は当然の選択でした」。 2024 年現在、同行のソフトウェアとデータの約 60% がクラウド上で実行できるように既にモダナイズされています。

Itaú は、同行のデータサイエンティストのために、AWS を利用して完全なソリューションを構築しました。まず、サーバーレスのデータ統合サービスである AWS Glue を使用してデータを収集します。これにより、分析、ML、アプリケーション開発用の複数のソースからのデータを簡単に発見、準備、移動、統合できます。その後、このデータを利用して、Amazon SageMaker Studio で実験を開始します。Itaú は、同行内のデータサイエンティストが実験するための柔軟な開発ソリューションとして Amazon SageMaker Studio を利用しています。次に、エンドポイント、バッチ変換、非同期推論など、Amazon SageMaker の他のツールを使用して ML モデルをデプロイします。同社は Amazon CloudWatch を使用してモデルをモニタリングしています。 Amazon CloudWatch は、ほぼリアルタイムのログ、メトリックス、イベントデータを自動化されたダッシュボードで収集して視覚化し、インフラストラクチャとアプリケーションのメンテナンスを合理化します。これらすべての AWS サービスを併用することで、データサイエンティストはニーズを満たすことができます。

Itaú は、2021 年 8 月に Amazon SageMaker Studio を統合開発環境として利用する最初のソリューションを提供しました。2023 年 4 月の時点で、その AWS サービスのユニークユーザー数は 3,200 人を超えており、その中には約 350 人のデータサイエンティストが含まれています。

Itaú には、ML モデルのデプロイ待ちリストがなくなりました。Amazon SageMaker Studio を利用することで、いくつかの事例において、同行はデプロイ時間を最大で 6 か月から 3～5 日に短縮できました。このデプロイ時間の短縮により、同行の市場投入までのスピードが向上します。「Amazon SageMaker Studio を利用すると、パイプラインを実行して、とても迅速にソリューションをお客様に提供できます」と Nogare 氏は述べています。「これにより、カスタマーエクスペリエンスを改善できます」。 また、Itaú は、以前のオンプレミスインフラストラクチャと比較して、コスト削減も実現しています。

2021 年 11 月以降、Itaú は AWS チームと毎週ミーティングを行い、アーキテクチャ、セキュリティ、ロードマップについて話し合っています。「AWS サポートは、今日の成果を達成する上で非常に重要でした」と Nogare 氏は述べています。「ソリューションやガバナンスのニーズに問題が生じた際はいつでも、それを通じて AWS チームがサポートしてくれました」。 ガバナンスのニーズの一部は、Amazon SageMaker Studio を利用して満たされています。同行がパイプラインを実行して Amazon SageMaker Studio をユーザーに提供する際、ガバナンスとセキュリティの問題は既に解決されています。

ソリューションの標準化により、Itaú は新入社員のオンボーディングやデータサイエンティストの部門間の異動をより簡単に行うことができます。すべてが仮想化されているため更新が容易になり、同行では物理マシンに依拠する必要がなくなりました。AWS を利用することで、データサイエンティストのパイプラインが統合されるため、ML モデルは同じデータパイプラインでデプロイおよびモニタリングされます。これにより、データサイエンティストの効率がさらに向上します。

「要するに、提供までに要する時間が短縮されます」と Itaú の Distinguished Data Scientist である Rodrigo Fernandes Mello 氏は述べています。当行ではこれまでに標準化と統合が改善されており、AWS を使用して改善を継続できます」。

Itaú は、標準化の継続的な改善を目指しています。同行のデータサイエンティスト向けの内部標準化の次のステップは、より多くの従業員が IARA ソリューションを利用するようにすることです。このソリューションは AWS をベースとしており、Amazon SageMaker Studio などの複数のサービスを利用します。Itaúは引き続き、大規模な ML ワークフローの作成、自動化、管理に使用される Amazon SageMaker Pipelines などの Amazon SageMaker 内のツールを使用してパイプラインを開発していきます。Itaú は、AWS ツールを使用してパイプラインにより多くの標準化をもたらすためのテストを実行しています。

「このプロジェクトにより、データサイエンティストチームに多くの効率化がもたらされました」と Azeka 氏は述べています。「Amazon SageMaker Studio を利用することで、新しいものをテストしながら他のものを公開したり、大規模言語モデルを使用する最先端のソリューションについて議論したりできます。データサイエンティストは Itaú で働くことを誇りに思うようになりました」。