Fortinet reduz os custos e a latência de seu chatbot de suporte ao cliente com o Amazon Nova Micro

O abrangente portfólio de produtos de segurança cibernética da Fortinet ajuda seus clientes, desde sistemas escolares locais até algumas das maiores organizações corporativas e governamentais do mundo, a obter os níveis de proteção de que precisam. Porém, seus produtos altamente técnicos e várias versões de documentação fizeram com que seu banco de dados crescesse em tamanho e complexidade, afetando o atendimento aos clientes. “À medida que nosso portfólio de produtos se expandia, enfrentávamos o desafio de tornar nossa documentação acessível a mais de 800.000 clientes”, diz Keith Choi, diretor de gerenciamento de produtos da Fortinet. Uma documentação atual e precisa é essencial para ajudar os clientes a aproveitar todo o valor das soluções da Fortinet e proteger suas organizações. Porém, pesquisar no portal de documentação da Fortinet pode ser um processo demorado para os clientes.

Como Parceiro da AWS e usuário ávido de inteligência artificial (IA), a Fortinet viu um grande potencial no uso da IA generativa na AWS. Os tecnólogos da Fortinet determinaram que um chatbot de suporte com IA generativa seria um caso de uso inicial ideal para resolver um problema crítico dos clientes e oferecer alto valor. Desde o acesso rápido à documentação tão necessária até a maior satisfação dos clientes, os benefícios de um suporte a produtos mais eficiente e eficaz foram convincentes.

Porém, este não poderia ser um chatbot comum. Considerando a importância dos produtos de segurança cibernética da Fortinet para seus clientes, a solução precisava atender a critérios muito elevados. Por exemplo, era necessário fornecer respostas precisas e relevantes rapidamente, reduzindo o trabalho pesado dos desenvolvedores e melhorando a satisfação dos clientes. A empresa também desejava uma solução que pudesse escalar para mais de 60 produtos e várias versões, além de acomodar mais produtos no futuro. Outros requisitos incluíam ser econômico para implantação em grande escala e funcionar perfeitamente com o portal de documentação e o sistema de gerenciamento de conteúdo da Fortinet.

O resultado final foi que o chatbot de suporte precisava ajudar centenas de milhares de clientes, além dos usuários internos, a encontrar com facilidade e rapidez as informações exatas de que precisavam.

Para criar seu chatbot de suporte, a Fortinet trabalhou com o Centro de inovação em IA generativa, que permite aos clientes priorizar casos de uso, criar roteiros e colocar soluções em produção. Trabalhando em estreita colaboração com o centro, a Fortinet criou um chatbot completo de IA generativa usando o Amazon Bedrock, um serviço totalmente gerenciado que oferece uma variedade de modelos de base de alta performance. A equipe da Fortinet explorou vários modelos durante o período de avaliação.

“Ouvimos números impressionantes sobre a performance dos modelos Amazon Nova no AWS re:Invent 2024”, diz Choi. “Quando testamos o Amazon Nova, descobrimos que, além da alta qualidade, o preço era muito atraente.” Como seu chatbot com suporte de IA generativa seria usado por uma ampla base de clientes, a Fortinet priorizou a eficiência de custos. Por isso, a empresa escolheu o Amazon Nova Micro, que seria capaz de oferecer uma redução de 85 vezes nos custos de inferência em comparação com o modelo anterior. “Já tínhamos a arquitetura do chatbot pronta e funcional”, diz Choi. “Mas o Amazon Nova Micro era exatamente o que procurávamos, e o Amazon Bedrock nos deu a flexibilidade necessária para mudar para o Amazon Nova Micro de maneira rápida e fácil.”

O chatbot de suporte da Fortinet se beneficia dos recursos do Amazon Bedrock. Por exemplo, usando o Amazon Bedrock Knowledge Bases, a empresa pode fornecer aos modelos de base e agentes informações contextuais de suas fontes de dados privadas para oferecer respostas mais relevantes, precisas e personalizadas. Além disso, o Amazon Bedrock Guardrails permite que a Fortinet implemente barreiras de proteção personalizadas de acordo com os requisitos de suas aplicações e políticas de IA responsável.

A Fortinet está planejando o uso público generalizado de seu chatbot alimentado por IA generativa. A empresa agora pode filtrar consultas, separando solicitações simples daquelas que exigem conhecimento mais aprofundado e atenção de especialistas. Assim, sua equipe tem mais tempo para se concentrar na missão principal de proporcionar uma experiência completa e totalmente imersiva ao usuário. “Nosso inovador chatbot com tecnologia de IA generativa está transformando a forma como oferecemos suporte e nos comunicamos com nossos clientes, fornecendo práticas recomendadas confiáveis e relevantes”, afirma Robert May, vice-presidente executivo de tecnologia e gerenciamento de produtos da Fortinet.

A equipe de marketing da Fortinet vê o chatbot como prova do compromisso contínuo da empresa em usar tecnologia de ponta para atender seus clientes. “Sempre que conseguimos simplificar a experiência dos nossos clientes, em qualquer contato que eles tenham com a empresa, todos saem ganhando”, afirma Mishel Fletcher, diretora de marketing de alianças em nuvem da Fortinet. “O novo chatbot é um grande avanço para nós, algo que nos proporciona boa vantagem competitiva.”

Olhando para o futuro, a Fortinet já está explorando novos casos de uso para empregar modelos Amazon Nova no suporte ao cliente e em outras áreas importantes dos seus negócios. “Ao trabalhar em conjunto com a AWS, obtemos segurança e escalabilidade de nível empresarial”, afirma Choi. “A escalabilidade do Amazon Nova Micro mantendo baixa latência é importante à medida que passamos de um público interno para centenas de milhares de clientes. E, ao usar o Amazon Bedrock Guardrails, obtemos maior controle sobre a experiência e o comportamento dos usuários.”