IA generativa baseada em AWS apoiará suporte de primeiro nível da Infosys

A solução proposta pela MadeinWeb, em colaboração com a AWS, foi construída com base em uma arquitetura robusta. O processo começou pela criação de um repositório seguro no Amazon Simple Storage Service (Amazon S3), proporcionando acesso rápido, seguro e econômico a milhares de documentos relacionados a chamados, bases de conhecimento e normas técnicas da Infosys.

A integração nativa com objetos do Amazon S3 facilitou a implementação do Amazon OpenSearch Service, criando uma base de dados totalmente vetorizada. Isso permitiu uma busca mais eficiente e análise avançada dos chamados internos, garantindo versatilidade para lidar com diversos formatos de documentos.

Vinicius Machado, diretor de Cloud, Data & AI da MadeinWeb, destaca que após extrair esses dados, foi utilizada a capacidade semântica de um modelo fundacional para entender os chamados e estruturar a solução das demandas dos usuários, alcançando uma assertividade significativa em problemas complexos. Inicialmente, foram implementados modelos customizados com o Amazon SageMaker, proporcionando poder computacional substancial. Posteriormente, a transição para o Amazon Bedrock trouxe versatilidade à Charla na escolha de modelos fundacionais, facilitando o desenvolvimento e experimentação por meio de APIs.

“A escolha do modelo fundacional Claude-2 da Anthropic foi crucial, devido à sua vantagem em trazer conceitos legais em seu treinamento, facilitando o controle de alucinações e atendendo conceitos de fairness AI”, explica Machado. Centenas de chamados foram analisados e documentos técnicos processados para garantir a exatidão nas respostas da Charla. Em seguida, a arquitetura foi construída utilizando serviços-chave da AWS, incluindo Amazon API Gateway, AWS Lambda Function, e o uso estratégico do Amazon SageMaker para a ingestão de dados e testes pontuais.

Volpe explica que, inicialmente, a solução será utilizada em apenas um cliente da companhia e, depois, escalada para toda a base. A expectativa do executivo é que, com a solução em uso, o atendimento de primeiro nível da empresa ganhe em qualidade e eficiência.

“Agora contamos com uma ferramenta que trará soluções aos clientes e isso deve resultar em aumento na volumetria, redução do número de tickets reabertos, aumento das resoluções no primeiro chamado e redução no número de chamados com SLA quebrados. Esses são os principais indicadores de desempenho que utilizaremos”, revela, reforçando impactos positivos como a resposta rápida aos chamados, impulsionada pela automação e análises avançadas dos documentos, culminando em maior eficiência operacional.

Além disso, a integração entre a plataforma Charla e os serviços AWS reduziu a carga manual, possibilitando que a equipe se concentrasse em tarefas mais estratégicas e diminuindo a SLA em chamados. Volpe acredita no pioneirismo da Infosys na adoção de IA generativa com a AWS. “Eu diria que estamos com um certo pioneirismo em tratar essa solução na perspectiva de sustentação de ambientes SAP e aplicações como Salesforce, Oracle e outras para grandes empresas. Estamos sendo pioneiros nisso, em usar IA direto no atendimento com a criação de uma solução pensada para produção”, afirma.