A IA generativa baseada na AWS apoiará o suporte de primeiro nível da Infosys

De acordo com Glauco Volpe, chefe de serviços e infraestrutura em nuvem da Infosys, um dos objetivos do projeto é o uso inteligente do conhecimento produzido e armazenado dentro da empresa. “Temos duas grandes fontes de informação para isso: os casos já resolvidos por nós e a documentação do aplicativo. A combinação desses dois nos permitirá resolver problemas com rapidez e eficiência”, explica ele.

Em relação ao uso da IA generativa, o executivo afirma que ferramentas de pesquisa puras e simples têm menor eficiência e exigem mais experiência dos analistas. Ao usar a IA generativa, profissionais menos experientes podem receber instruções de trabalho, permitindo que serviços complexos sejam executados em camadas mais operacionais.

Os parceiros de desenvolvimento foram escolhidos com base em seu histórico de sucesso e parceria. “Somos parceiros globais da AWS, que é nosso provedor de nuvem e oferece as soluções que oferecemos aos nossos clientes. A MadeinWeb, por outro lado, tem uma história de sucesso que está profundamente ligada às expectativas que temos com essa implementação”, diz ele.

A solução proposta pela MadeinWeb, em colaboração com a AWS, foi construída com base em uma arquitetura robusta. O processo começou com a criação de um repositório seguro no Amazon Simple Storage Service (Amazon S3 ), fornecendo acesso rápido, seguro e econômico a milhares de documentos relacionados às chamadas, bases de conhecimento e padrões técnicos da Infosys.

A integração nativa com objetos do Amazon S3 facilitou a implementação do Amazon OpenSearch Service , criando um banco de dados totalmente vetorizado. Isso permitiu uma busca mais eficiente e uma análise avançada das chamadas internas, garantindo a versatilidade para lidar com vários formatos de documentos.

Vinicius Machado, diretor da MadeinWeb Cloud, Data & AI, ressalta que após a extração desses dados, a capacidade semântica de um modelo fundamental foi usada para entender as chamadas e estruturar a solução às demandas dos usuários, alcançando uma assertividade significativa em problemas complexos. Inicialmente, modelos personalizados foram implementados com o Amazon SageMaker , fornecendo um poder computacional substancial. Posteriormente, a transição para o Amazon Bedrock trouxe versatilidade à plataforma Charla na escolha de modelos básicos, simplificando o desenvolvimento e a experimentação por meio de APIs.

“A escolha do modelo fundamental Claude-2 da Anthropic foi crucial, devido à vantagem de incluir conceitos jurídicos em seu treinamento, facilitar o controle sobre alucinações e aderir aos conceitos de IA de justiça”, explica Machado. Centenas de chamadas foram analisadas e documentos técnicos processados para garantir a precisão das respostas de Charla. Em seguida, a arquitetura foi criada usando os principais serviços da AWS, incluindo o Amazon API Gateway , o AWS Lambda Function e o uso estratégico do Amazon SageMaker para ingestão de dados e testes específicos.

Volpe explica que a solução será usada inicialmente em apenas um dos clientes da empresa e depois escalada para toda a base. O executivo espera que o serviço de primeiro nível da empresa ganhe em qualidade e eficiência com o uso da solução.

“Agora temos uma ferramenta que fornecerá soluções aos clientes e isso deve resultar em um aumento no volume, uma diminuição no número de tíquetes reabertos, um aumento nas resoluções na primeira chamada e uma diminuição no número de chamadas com SLAs quebrados. Esses são os principais indicadores de desempenho que usaremos”, revela ela, reforçando impactos positivos, como resposta rápida de chamadas impulsionada pela automação e análise avançada de documentos, culminando em maior eficiência operacional.

Além disso, a integração entre a plataforma Charla e os serviços da AWS reduziu a carga manual, permitindo que a equipe se concentrasse em tarefas mais estratégicas e reduzindo o SLA nas chamadas. Volpe acredita no papel pioneiro da Infosys na adoção da IA generativa com a AWS. “Eu diria que temos um papel pioneiro no tratamento dessa solução do ponto de vista de oferecer suporte a ambientes e aplicativos SAP, como Salesforce, Oracle e outros, para grandes empresas. Somos pioneiros no uso direto da IA em serviço com a criação de uma solução projetada para produção”, diz ele.