Itaú améliore la rapidité de mise sur le marché et la productivité des solutions de ML grâce à Amazon Web Services

Itaú fournit des services bancaires à des clients au Brésil, en Amérique latine et dans 18 autres pays du monde. Elle compte plus de 95 700 employés, dont environ 15 000 travaillent dans le domaine des technologies de l’information. L’infrastructure d’origine d’Itaú était entièrement sur site, ce qui a entraîné des coûts élevés et des délais de développement lents. L’infrastructure sur site n’était pas non plus évolutive car elle était limitée par l’espace physique et le matériel. Dans le groupe de données de la banque, les scientifiques des données devaient attendre jusqu’à 6 mois pour que la mémoire et les ressources soient disponibles, et l’entreprise avait une liste d’attente de déploiement contenant plus de 100 modèles de ML.

Pour surmonter ces défis, Itaú a décidé de migrer une partie de ses activités vers le cloud et a choisi d’utiliser AWS. « L’une des raisons pour lesquelles nous avons choisi de migrer du site vers le cloud était une stratégie visant à accroître la compétitivité et l’efficacité de l’entreprise en même temps », explique Diego Nogare, responsable de l’ingénierie ML chez Itaú.

Environ 6 mois après le début de la migration, Itaú a choisi Amazon SageMaker , un service permettant de créer, de former et de déployer des modèles de machine learning pour tous les cas d'utilisation avec une infrastructure, des outils et des flux de travail entièrement gérés, en tant que solution de machine learning flexible et native dans le cloud. « Nous étions en train de transformer nos logiciels et nos données à l’aide d’AWS, et nous avions besoin d’une solution qui fonctionne parfaitement sur AWS », explique Vitor Azeka, data science superintendent chez Itaú. « Le choix d’Amazon SageMaker s’est imposé comme une évidence. En 2024, environ 60 % des logiciels et des données de l’entreprise étaient déjà modernisés pour fonctionner sur le cloud ».

Itaú a développé une solution complète pour ses scientifiques des données à l’aide d’AWS. Tout d'abord, les données sont collectées à l'aide d'AWS Glue , un service d'intégration de données sans serveur qui facilite la découverte, la préparation, le déplacement et l'intégration de données provenant de sources multiples à des fins d'analyse, de machine learning et de développement d'applications. Ces données sont ensuite utilisées pour démarrer des expériences à l’aide d’Amazon SageMaker Studio. Itaú utilise Amazon SageMaker Studio comme solution de développement flexible que ses scientifiques internes des données peuvent expérimenter. Ensuite, les modèles de ML sont déployés à l’aide d’autres outils Amazon SageMaker, tels que Endpoints, Batch Transform et Asynchronous Inference. L'entreprise surveille les modèles à l'aide d'Amazon CloudWatch , qui collecte et visualise des journaux, des mesures et des données d'événements en temps quasi réel dans des tableaux de bord automatisés afin de rationaliser la maintenance de l'infrastructure et des applications. En combinant tous ces services AWS, les scientifiques des données peuvent répondre à leurs besoins.

Itaú a livré sa première solution utilisant Amazon SageMaker Studio comme environnement de développement intégré en août 2021 et, en avril 2023, le service AWS comptait plus de 3 200 utilisateurs uniques, dont environ 350 scientifiques des données.

Itaú n’a plus de liste d’attente pour le déploiement de modèles de ML. Grâce à Amazon SageMaker Studio, l’entreprise a réduit le temps de déploiement de 6 mois à 3 à 5 jours dans certains cas. Ce temps de déploiement réduit améliore la rapidité de mise sur le marché pour l’entreprise. « Lorsque nous utilisons Amazon SageMaker Studio, nous pouvons gérer notre pipeline et fournir la solution à nos clients très rapidement », explique M. Nogare. « Cela nous permet ainsi d’améliorer l’expérience client. » Itaú réalise également des économies par rapport à son ancienne infrastructure sur site.

Depuis novembre 2021, Itaú tient des réunions hebdomadaires avec l’équipe AWS pour discuter de l’architecture, de la sécurité et de sa feuille de route. « Le soutien d’AWS était très important pour obtenir les résultats que nous avons aujourd’hui », explique M. Nogare. « Chaque fois que nous rencontrions un problème lié à notre solution ou à nos besoins en matière de gouvernance, l’équipe AWS nous a aidés à le résoudre. » Certains des besoins de gouvernance sont satisfaits grâce à Amazon SageMaker Studio. Lorsque l’entreprise gère des pipelines pour fournir Amazon SageMaker Studio aux utilisateurs, les problèmes de gouvernance et de sécurité sont déjà résolus.

La standardisation de sa solution permet à Itaú d’intégrer plus facilement de nouveaux employés et de transférer les scientifiques des données d’un département à l’autre. Les mises à jour sont facilitées car tout est virtuel et l’entreprise n’a plus besoin de s’appuyer sur des machines physiques. Grâce à AWS, les pipelines destinés aux scientifiques des données sont intégrés, de sorte que les modèles de ML sont déployés et surveillés dans le même pipeline de données. Cela améliore encore l’efficacité des scientifiques des données.

« En fin de compte, nous pouvons livrer plus rapidement », déclare Rodrigo Fernandes Mello, distinguished data scientist chez Itaú. « Nous avons amélioré la standardisation et l’intégration, et nous pouvons utiliser AWS pour continuer à nous améliorer. »

Itaú souhaite continuer à améliorer sa standardisation. La prochaine étape de la normalisation interne pour ses scientifiques des données consiste à augmenter le nombre d’employés utilisant sa solution IARA, qui est basée sur AWS et utilise de multiples services, dont Amazon SageMaker Studio. Itaú continuera à développer son pipeline en utilisant des outils intégrés à Amazon SageMaker, tels qu'Amazon SageMaker Pipelines , qui permet de créer, d'automatiser et de gérer des flux de travail de machine learning à grande échelle. Itaú effectue des tests pour standardiser davantage son pipeline à l’aide des outils AWS.

« Ce projet a apporté beaucoup d’efficacité à l’équipe des scientifiques des données », explique M. Azeka. « Grâce à Amazon SageMaker Studio, nous pouvons tester de nouvelles choses tout en en publiant d’autres, et nous pouvons discuter de solutions de pointe utilisant de grands modèles linguistiques. Nos scientifiques des données sont donc fiers de travailler chez Itaú. »