Itaú melhora a velocidade de lançamento no mercado e a produtividade de soluções de ML usando a Amazon Web Services

O Itaú oferece serviços bancários para os clientes no Brasil, na América Latina e em outros 18 países ao redor do mundo. Ele tem mais de 95.700 funcionários, dos quais cerca de 15.000 trabalham em TI. A infraestrutura original do Itaú estava inteiramente on-premises, o que gerava altos custos e tempos de desenvolvimento lentos. Além disso, a infraestrutura on-premises não era escalável, pois era limitada pelo espaço físico e pelo hardware. No grupo de dados do banco, os cientistas de dados precisavam esperar até 6 meses para que memória e recursos fossem disponibilizados, e a empresa tinha uma lista de espera para implantação com mais de 100 modelos de ML.

Para superar esses desafios, o Itaú decidiu migrar uma parte de seus negócios para a nuvem e optou por usar a AWS. “Um dos motivos pelos quais optamos por migrar do ambiente on-premises para a nuvem foi uma estratégia para aumentar a competitividade e a eficiência dos negócios ao mesmo tempo”, diz Diego Nogare, gerente de engenharia de ML do Itaú.

Cerca de 6 meses após o início da migração, o Itaú escolheu o Amazon SageMaker — um serviço para criar, treinar e implantar modelos de ML para qualquer caso de uso com infraestrutura, ferramentas e fluxos de trabalho totalmente gerenciados — como uma solução de ML flexível e nativa da nuvem. “Estávamos transformando nosso software e dados usando a AWS e precisávamos de uma solução que funcionasse perfeitamente na AWS”, diz Vitor Azeka, superintendente de ciência de dados do Itaú. “O Amazon SageMaker foi a escolha óbvia.” Em 2024, cerca de 60% dos softwares e dados da empresa já estão modernizados para execução na nuvem.”

O Itaú criou uma solução completa para seus cientistas de dados usando a AWS. Primeiro, os dados são coletados usando o AWS Glue , um serviço de integração de dados sem servidor que facilita a descoberta, a preparação, a movimentação e a integração de dados de várias fontes para análise, aprendizado de máquina e desenvolvimento de aplicativos. Esses dados são então usados para iniciar experimentos usando o Amazon SageMaker Studio. O Itaú usa o Amazon SageMaker Studio como uma solução de desenvolvimento flexível para experimentação pelos seus cientistas de dados internos. Em seguida, os modelos de ML são implantados usando outras ferramentas do Amazon SageMaker, como o Endpoints, o Batch Transform e o Asynchronous Inference. A empresa monitora modelos usando o Amazon CloudWatch , que coleta e visualiza registros, métricas e dados de eventos quase em tempo real em painéis automatizados para agilizar a manutenção da infraestrutura e dos aplicativos. Usando todos esses serviços da AWS juntos, os cientistas de dados podem atender a suas necessidades.

O Itaú entregou sua primeira solução usando o Amazon SageMaker Studio como um ambiente de desenvolvimento integrado em agosto de 2021 e, por volta de abril de 2023, já tinha mais de 3.200 usuários exclusivos para o serviço da AWS, incluindo cerca de 350 cientistas de dados.

O Itaú não tem mais uma lista de espera para implantar modelos de ML. Usando o Amazon SageMaker Studio, a empresa reduziu o tempo de implantação de até 6 meses para 3 a 5 dias em alguns casos. Esse tempo reduzido de implantação melhora a velocidade de lançamento no mercado para a empresa. “Quando usamos o Amazon SageMaker Studio, podemos executar nosso pipeline e entregar a solução aos nossos clientes com muita rapidez”, diz Nogare. “Assim, podemos melhorar a experiência dos clientes.” O Itaú também está economizando nos custos em comparação com sua antiga infraestrutura on-premises.

Desde novembro de 2021, o Itaú realiza reuniões semanais com a equipe da AWS para discutir arquitetura, segurança e seu roteiro de atividades. “O suporte que recebemos da AWS foi muito importante para alcançar os resultados que temos hoje”, diz Nogare. “Sempre que detectávamos um problema com nossa solução ou necessidades de governança, recebíamos total apoio da equipe da AWS.” Algumas das necessidades de governança são atendidas com o uso do Amazon SageMaker Studio. Quando a empresa executa pipelines para fornecer o Amazon SageMaker Studio aos usuários, os problemas de governança e segurança já estão resolvidos.

A padronização da solução significa que o Itaú é capaz de integrar novos funcionários com mais facilidade e transferir cientistas de dados de um departamento para outro. A atualização é mais fácil, pois todo o processo é virtual, e a empresa não precisa mais depender de máquinas físicas. Usando a AWS, os pipelines para cientistas de dados são integrados e, portanto, os modelos de ML são implantados e monitorados no mesmo pipeline de dados. Isso melhora ainda mais a eficiência dos cientistas de dados.

“No final das contas, podemos entregar mais rápido”, diz Rodrigo Fernandes Mello, cientista de dados ilustre do Itaú. “Aprimoramos a padronização e a integração e podemos usar a AWS para continuar melhorando ainda mais.”

O Itaú tem como meta continuar aprimorando sua padronização. A próxima etapa da padronização interna para seus cientistas de dados envolve ter mais funcionários usando sua solução IARA, que é baseada na AWS e utiliza vários serviços, incluindo o Amazon SageMaker Studio. O Itaú continuará desenvolvendo seu pipeline usando ferramentas dentro do Amazon SageMaker, como o Amazon SageMaker Pipelines , que é usado para criar, automatizar e gerenciar fluxos de trabalho de ML em grande escala. O Itaú está executando testes para trazer mais padronização ao seu pipeline usando as ferramentas da AWS.

“Esse projeto trouxe muita eficiência para a equipe de cientistas de dados”, diz Azeka. “Usando o Amazon SageMaker Studio, podemos testar coisas novas enquanto publicamos outras e podemos discutir soluções de última geração usando grandes modelos de linguagem. Isso faz com que nossos cientistas de dados tenham orgulho de trabalhar no Itaú.”