Fortinet reduce el costo y la latencia de su chatbot de atención al cliente con Amazon Nova Micro

La amplia cartera de productos de ciberseguridad de Fortinet ayuda a sus clientes (desde distritos escolares locales hasta algunas de las organizaciones empresariales y gubernamentales más grandes del mundo) a obtener la protección que necesitan. Sin embargo, sus productos altamente técnicos y las múltiples versiones de la documentación hicieron que su base de datos creciera en tamaño y complejidad, lo que afectó al servicio de atención al cliente. “A medida que nuestra cartera de productos se expandía, nos enfrentamos al desafío de hacer que nuestra documentación fuera accesible para más de 800 000 clientes”, afirma Keith Choi, director de Administración de Productos de Fortinet. La documentación precisa y actualizada es fundamental para ayudar a los clientes a aprovechar todo el valor de las soluciones de Fortinet y proteger sus organizaciones. Sin embargo, los clientes pueden tardar mucho tiempo en hacer búsquedas en el portal de documentación de Fortinet.

Como socio de AWS y ávido usuario de la inteligencia artificial (IA), Fortinet vio un gran potencial en el uso de la IA generativa en AWS. Los tecnólogos de Fortinet determinaron que un chatbot de asistencia con tecnología de IA generativa sería un caso de uso inicial ideal para abordar un problema crítico de los clientes y ofrecer un gran valor. Los beneficios de un soporte de productos más eficiente y efectivo eran convincentes: desde un acceso rápido a documentación indispensable hasta una mayor satisfacción de los clientes.

No obstante, no podía ser un chatbot normal. Dada la importancia de los productos de ciberseguridad de Fortinet para sus clientes, la solución tenía que cumplir unos criterios muy exigentes. Por ejemplo, tenía que proporcionar respuestas precisas y pertinentes con rapidez, reducir el trabajo pesado para los desarrolladores y mejorar la satisfacción de los clientes. La empresa también quería una solución que pudiera escalarse a más de 60 productos, varias versiones y dar cabida a más productos en el futuro. Otros requisitos incluían ser rentable para una implementación a gran escala y trabajar sin problemas con el portal de documentación y el sistema de administración de contenido de Fortinet.

La conclusión era que el chatbot de asistencia tenía que ayudar a cientos de miles de clientes, además de a los usuarios internos, a encontrar la información exacta que necesitaban de forma rápida y sencilla.

Para crear su chatbot de asistencia, Fortinet trabajó con el Centro de innovación de IA generativa, que permite a los clientes priorizar los casos de uso, crear hojas de ruta y trasladar las soluciones a producción. Fortinet, trabajando en estrecha colaboración con el Centro, creó un chatbot de IA generativa completo con Amazon Bedrock, un servicio completamente administrado que ofrece una selección de modelos fundacionales de alto rendimiento. El equipo de Fortinet exploró varios modelos durante el periodo de evaluación.

“Escuchamos cifras sorprendentes sobre el rendimiento de los modelos de Amazon Nova en AWS re:Invent 2024”, afirma Choi. “Al experimentar con Amazon Nova, descubrimos que no solo la calidad era alta, sino que su precio era muy atractivo”. Debido a que una amplia base de clientes utilizaría su chatbot de asistencia de IA generativa, Fortinet dio prioridad a la rentabilidad. Por ello, eligió Amazon Nova Micro, que podía ofrecer una reducción 85 veces mayor en los costos de inferencia en comparación con su modelo anterior. “Ya teníamos la arquitectura del chatbot en funcionamiento”, indica Choi. “Pero Amazon Nova Micro era el punto óptimo que buscábamos y Amazon Bedrock nos dio la flexibilidad de cambiarnos a Amazon Nova Micro de forma rápida y sencilla”.

El chatbot de asistencia de Fortinet se beneficia de las funcionalidades de Amazon Bedrock. Por ejemplo, con Bases de conocimiento de Amazon Bedrock, la empresa puede ofrecer información contextual de los orígenes de datos privados a los modelos fundacionales y a los agentes para ofrecer respuestas más pertinentes, precisas y personalizadas Además, Barreras de protección para Amazon Bedrock permite a Fortinet implementar barreras de protección personalizadas para los requisitos de sus aplicaciones y sus políticas de IA responsable.

Fortinet planea un uso público generalizado de su chatbot con tecnología de IA generativa. La empresa ahora puede filtrar las consultas y separar las solicitudes simples de las que requieren un conocimiento y una atención mayores por parte de los especialistas. Por lo tanto, su equipo tiene más tiempo para centrarse en la misión principal de ofrecer una experiencia de usuario completa y totalmente inmersiva. “Nuestro innovador chatbot con tecnología de IA generativa está transformando la forma en que atendemos a nuestros clientes y nos comunicamos con ellos al ofrecer prácticas recomendadas confiables y pertinentes”, afirma Robert May, vicepresidente ejecutivo de Tecnología y Administración de Productos de Fortinet.

El equipo de marketing de Fortinet considera que el chatbot es una prueba del compromiso continuo de la empresa de utilizar tecnología de vanguardia para atender a sus clientes. “Cada vez que podemos optimizar la experiencia de nuestros clientes (cualquier contacto que tengan con la empresa), todos salimos ganando”, señala Mishel Fletcher, director de Marketing de la Alianza en la Nube de Fortinet. “El nuevo chatbot es un gran paso adelante para nosotros, ya que nos brinda una ventaja competitiva”.

De cara al futuro, Fortinet ya está explorando nuevos casos de uso para emplear los modelos de Amazon Nova en la atención al cliente y otras áreas clave de su negocio. “Al trabajar junto a AWS, obtenemos una seguridad y una escalabilidad de nivel empresarial”, dice Choi. “La capacidad de Amazon Nova Micro para escalar y, al mismo tiempo, mantener una latencia baja es importante a medida que pasamos de una audiencia interna a cientos de miles de clientes. Además, al usar Barreras de protección para Amazon Bedrock, obtenemos un mayor control sobre la experiencia y el comportamiento de los usuarios”.