Fortinet riduce i costi e la latenza del suo chatbot di assistenza ai clienti con Amazon Nova Micro

La gamma completa di soluzioni per la sicurezza informatica offerta da Fortinet consente ai clienti, che spaziano dagli istituti scolastici locali ad alcune delle maggiori imprese ed enti governativi al mondo, di assicurarsi il livello di protezione necessario. L’elevato livello tecnico dei prodotti e le numerose versioni della documentazione hanno però reso il database sempre più ampio e complesso, penalizzando il servizio clienti. “Mentre il nostro portafoglio di prodotti si espandeva, abbiamo dovuto affrontare la sfida di rendere la nostra documentazione accessibile a più di 800.000 clienti”, afferma Keith Choi, Director of product management di Fortinet. Poter contare su una documentazione precisa e attuale è vitale per aiutare i clienti a massimizzare il valore delle soluzioni Fortinet e a proteggere le proprie aziende. Purtroppo, la ricerca nel portale documentale di Fortinet rischiava di essere molto dispendiosa in termini di tempo per gli utenti.

Essendo un Partner AWS e facendo ampio uso dell’intelligenza artificiale (IA), Fortinet ha riconosciuto le grandi potenzialità dell’IA generativa su AWS. I professionisti tecnici di Fortinet hanno individuato in un chatbot di assistenza basato sull’IA generativa il primo caso d’uso ideale per risolvere un problema cruciale dei clienti e fornire un grande valore aggiunto. Dall’accesso rapido alla documentazione essenziale fino a una maggiore soddisfazione dei clienti, i vantaggi di un supporto al prodotto più efficiente ed efficace erano innegabili.

Ma non poteva trattarsi di un chatbot comune. Data l'importanza dei prodotti di sicurezza informatica di Fortinet per i suoi clienti, la soluzione doveva soddisfare criteri molto elevati. Ad esempio, doveva fornire rapidamente risposte accurate e pertinenti, riducendo il carico di lavoro per gli sviluppatori e migliorando la soddisfazione dei clienti. La società desiderava inoltre una soluzione scalabile capace di adattarsi a più di 60 prodotti e alle relative versioni, in modo da poterne integrare di nuovi in futuro. Ulteriori requisiti includevano l’economicità per l’implementazione su vasta scala e la perfetta compatibilità con il portale della documentazione e il sistema di gestione dei contenuti di Fortinet.

In sintesi, il chatbot di assistenza doveva aiutare centinaia di migliaia di clienti, oltre agli utenti interni, a trovare le informazioni esatte in modo rapido e semplice.

Per creare il suo chatbot di assistenza, Fortinet ha collaborato con il Generative AI Innovation Center, il programma che consente ai clienti di dare priorità ai casi d'uso, creare road map e portare le soluzioni in produzione. Lavorando a stretto contatto con il centro, Fortinet ha creato un chatbot di IA generativa completo utilizzando Amazon Bedrock, un servizio completamente gestito che offre una scelta di modelli di fondazione ad alte prestazioni. Il team di Fortinet ha esplorato diversi modelli durante il periodo di valutazione.

“Abbiamo sentito numeri notevoli riguardo alle prestazioni dei modelli di Amazon Nova in occasione dell'AWS re:Invent 2024,” ha affermato Choi. “Quando abbiamo sperimentato con Amazon Nova, ci siamo resi conto della sua elevatissima qualità ma anche del suo prezzo allettante.” Poiché il suo chatbot di assistenza basato sull'IA generativa sarebbe stato utilizzato da un'ampia base di clienti, Fortinet ha dato priorità all'efficienza dei costi. Ha quindi optato per Amazon Nova Micro, in grado di offrire una riduzione dei costi di inferenza di 85 volte rispetto al modello precedente. “L'architettura del chatbot era già attiva e funzionante”, ha affermato Choi. “Ma Amazon Nova Micro era la soluzione ideale che stavamo cercando, e Amazon Bedrock ci ha fornito la flessibilità necessaria per passare ad Amazon Nova Micro in modo rapido e semplice.”

Il chatbot di assistenza di Fortinet sfrutta le funzionalità di Amazon Bedrock. Ad esempio, con Knowledge Base per Amazon Bedrock, la società può fornire ad agenti e modelli di fondazione (FM) informazioni contestuali estratte dalle sue origini dati private per fornire risposte più pertinenti, accurate e personalizzate. Inoltre, Amazon Bedrock Guardrails consente a Fortinet di implementare protezioni personalizzate in base ai requisiti applicativi e alle politiche di IA responsabile.

Fortinet sta pianificando un uso pubblico diffuso del suo chatbot basato sull'IA generativa. La società ora può filtrare le domande, separando le richieste semplici da quelle che richiedono una conoscenza e un'attenzione più approfondite da parte degli specialisti. Pertanto, il suo team ha più tempo per concentrarsi sulla missione principale di offrire un'esperienza utente completa e coinvolgente. “Il nostro innovativo chatbot basato sull'IA generativa sta trasformando il modo in cui supportiamo e comunichiamo con i nostri clienti offrendo best practice affidabili e pertinenti”, ha affermato Robert May, vicepresidente esecutivo di Technology and product management di Fortinet.

Il team di marketing di Fortinet considera il chatbot una prova del costante impegno della società nell'utilizzo di tecnologie all'avanguardia per servire i propri clienti. “Ogni volta che riusciamo a semplificare l'esperienza dei nostri clienti, indipendentemente dal tipo di contatto che abbiano con la società, è una vittoria per tutti”, ha affermato Mishel Fletcher, Director of cloud alliance marketing presso Fortinet. “Il nuovo chatbot è un grande passo avanti per noi: ci offre un vantaggio competitivo.”

Guardando al futuro, Fortinet sta già esplorando nuovi casi d'uso per l'utilizzo dei modelli di Amazon Nova nell'assistenza clienti e in altre aree chiave della sua attività. “Collaborando con AWS, possiamo ottenere sicurezza e scalabilità di livello aziendale”, ha affermato Choi. “La capacità di Amazon Nova Micro di scalare mantenendo una bassa latenza è importante nella transizione da un pubblico interno a centinaia di migliaia di clienti. E utilizzando Amazon Bedrock Guardrails, otteniamo un maggiore controllo sull'esperienza e sul comportamento degli utenti.”