Fortinet reduziert Kosten und Latenz für seinen Kundensupport-Chatbot mit Amazon Nova Micro

Das umfassende Portfolio an Produkten für Cybersicherheit von Fortinet unterstützt seine Kunden – von lokalen Schulbezirken bis hin zu einigen der weltweit größten Unternehmen und Regierungsorganisationen – dabei, den Schutz zu erhalten, den sie benötigen. Allerdings führten die hochtechnischen Produkte und die Vielzahl an Dokumentationsversionen dazu, dass die Datenbank an Größe und Komplexität zunahm, was sich auf den Kundenservice auswirkte. „Mit der Erweiterung unseres Produktportfolios standen wir vor der Herausforderung, unsere Dokumentation für mehr als 800 000 Kunden zugänglich zu machen“, erklärt Keith Choi, Director of Product Management bei Fortinet. Eine genaue und aktuelle Dokumentation ist von entscheidender Bedeutung, damit Kunden den vollen Wert der Lösungen von Fortinet nutzen und ihre Unternehmen schützen können. Die Suche im Fortinet-Dokumentationsportal kann jedoch zeitaufwändig sein.

Als AWS-Partner und erfahrener Nutzer von künstlicher Intelligenz (KI) erkannte Fortinet das große Potenzial generativer KI in AWS. Die Technologen von Fortinet kamen zu dem Schluss, dass ein generativer, KI-gestützter Support-Chatbot ein idealer erster Anwendungsfall wäre, um ein kritisches Kundenproblem zu lösen und einen hohen Mehrwert zu bieten. Vom schnellen Zugriff auf dringend benötigte Dokumentationen bis hin zu einer höheren Kundenzufriedenheit – die Vorteile eines effizienteren und effektiveren Produktsupports waren überzeugend.

Allerdings konnte hierfür kein gewöhnlicher Chatbot verwendet werden. Angesichts der Bedeutung der Cybersicherheitsprodukte von Fortinet für seine Kunden musste die Lösung sehr anspruchsvolle Kriterien erfüllen. So musste sie beispielsweise schnell genaue und relevante Antworten liefern, die Arbeit für Entwickler zu vereinfachen und die Kundenzufriedenheit zu verbessern. Das Unternehmen suchte nach einer Lösung, die auf über 60 Produkte und mehrere Versionen anwendbar ist und in Zukunft weitere Produkte aufnehmen kann. Zu den weiteren Anforderungen gehörten die Kosteneffizienz für den Einsatz in großem Maßstab und die nahtlose Zusammenarbeit mit dem Dokumentationsportal und dem Content-Management-System von Fortinet.

Letztendlich musste der Support-Chatbot Hunderttausenden von Kunden sowie internen Benutzern dabei helfen, mühelos und schnell genau die Informationen zu finden, die sie benötigten.

Für die Entwicklung seines Support-Chatbots arbeitete Fortinet mit dem Generative AI Innovation Center zusammen. Dadurch können Kunden, Anwendungsfälle priorisieren, Roadmaps erstellen und Lösungen in die Produktion übernehmen. In enger Zusammenarbeit mit dem Zentrum entwickelte Fortinet einen leistungsstarken generativen KI-Chatbot unter Verwendung von Amazon Bedrock, einem vollständig verwalteten Service, der eine Auswahl an leistungsstarken Basismodellen bietet. Das Fortinet-Team untersuchte während des Bewertungszeitraums mehrere Modelle.

„Auf der AWS re:Invent 2024 haben wir beeindruckende Zahlen zur Leistung der Amazon-Nova-Modelle vernommen“, erklärt Choi. „Beim Experimentieren mit Amazon Nova stellten wir fest, dass nicht nur die Qualität hoch, sondern auch der Preis sehr attraktiv war.“ Da der generative KI-gestützte Chatbot von einem umfangreichen Kundenstamm genutzt werden würde, legte Fortinet besonderen Wert auf Kosteneffizienz. Daher fiel die Wahl auf Amazon Nova Micro, das im Vergleich zum Vorgängermodell eine 85-fache Reduzierung der Inferenzkosten ermöglichte. „Die Architektur des Chatbots war bereits implementiert und einsatzbereit“, so Choi. „Amazon Nova Micro entsprach genau unseren Anforderungen, und Amazon Bedrock bot uns die Flexibilität, schnell und einfach zu Amazon Nova Micro zu wechseln.“

Der Support-Chatbot von Fortinet profitiert von den Funktionen von Amazon Bedrock. Mithilfe von Amazon-Bedrock-Wissensdatenbanken kann das Unternehmen beispielsweise Basismodellen und Agenten Kontextinformationen aus seinen privaten Datenquellen bereitstellen, um relevantere, genauere und individuellere Antworten zu liefern. Darüber hinaus kann Fortinet mit Amazon-Bedrock-Integritätsschutz Sicherheitsvorkehrungen implementieren, die auf seine Anwendungsanforderungen und verantwortungsvollen KI-Richtlinien zugeschnitten sind.

Fortinet plant die breite öffentliche Nutzung seines generativen, KI-gestützten Chatbots. Das Unternehmen kann nun Anfragen filtern und einfache Anfragen von solchen trennen, die fundiertes Fachwissen und die Aufmerksamkeit von Spezialisten erfordern. Dadurch hat das Team mehr Zeit, sich auf die Kernaufgabe zu konzentrieren, nämlich eine umfassende und vollständig immersive Benutzererfahrung zu bieten. „Unser innovativer, generativer KI-gestützter Chatbot verändert die Art und Weise, wie wir unsere Kunden unterstützen und mit ihnen kommunizieren, indem er vertrauenswürdige und relevante bewährte Methoden bereitstellt“ erklärt Robert May, Executive Vice President of Technology and Product Management bei Fortinet.

Das Marketingteam von Fortinet betrachtet den Chatbot als Beweis für das kontinuierliche Engagement des Unternehmens, seine Kunden mit modernster Technologie zu bedienen. „Jedes Mal, wenn wir die Erfahrung für unsere Kunden optimieren können – und zwar bei jedem Kontakt mit dem Unternehmen –, ist das ein Gewinn für alle“, sagt Mishel Fletcher, Director of Cloud Alliance Marketing bei Fortinet. „Der neue Chatbot ist für uns ein großer Fortschritt, der uns einen Wettbewerbsvorteil verschafft.“

Fortinet blickt optimistisch in die Zukunft und untersucht bereits neue Anwendungsfälle für den Einsatz von Amazon-Nova-Modellen im Kundensupport und anderen wichtigen Geschäftsbereichen. „Durch die Zusammenarbeit mit AWS erhalten wir Sicherheit und Skalierbarkeit auf Unternehmensniveau“, erklärt Choi „Die Fähigkeit von Amazon Nova Micro, zu skalieren und gleichzeitig eine niedrige Latenz aufrechtzuerhalten, ist wichtig, da wir von einer internen Zielgruppe zu Hunderttausenden von Kunden übergehen. Dank des Amazon-Bedrock-Integritätsschutzes haben wir zudem mehr Kontrolle über die Nutzererfahrung und das Nutzerverhalten.“