Iternal Technologies migliora il ROI del marketing di 30 volte con l'IA generativa su AWS

Iternal è stata fondata per rivoluzionare il marketing con un'idea tratta dai libri di storia: la catena di montaggio. Invece di investire tempo ed energia nella creazione di risorse che non saranno più utili dopo 6 mesi, Iternal ha deciso di creare risorse personalizzate e pertinenti utilizzando blocchi di contenuti modulari selezionati e combinati dall'IA generativa. Per realizzare questa visione futuristica, a Iternal serve un accesso affidabile alla potenza di calcolo su larga scala. L'azienda ha scelto di creare la propria suite di prodotti direttamente su AWS per accedere alle risorse di calcolo necessarie. “Il valore ottenuto dall'utilizzo di AWS è stato quello di accelerare lo sviluppo di tecnologie innovative e presentarle a un gruppo globale di clienti aziendali che richiedono una disponibilità multiregionale,” afferma Williams.

Poiché Iternal fa parte di Inception, è stata tra i primi ad avere accesso alle funzionalità di clonazione vocale di NVIDIA Riva. Ha quindi utilizzato Amazon Elastic Compute Cloud (Amazon EC2), un servizio di calcolo ampio e approfondito, per rendere operativo un prodotto vocale di IA generativa proof-of-concept in 2 settimane. Più specificamente, Iternal ha utilizzato le istanze P3 di Amazon EC2, che hanno fino a 8 GPU NVIDIA V100 Tensor Core per applicazioni di machine learning e calcolo ad alte prestazioni, per alimentare la soluzione. “Ci muoviamo molto velocemente su AWS”, afferma Hanby. “Implementiamo almeno quattro nuovi prodotti di livello aziendale all'anno.”

Iternal voleva affidarsi ad AWS perché deve dimensionare a piacere durante l'addestramento di modelli altamente complessi per fornire risorse di marketing accurate. La sua iniziativa di clonazione vocale ne è un esempio calzante. Man mano che l'addestramento dei modelli vocali aumentava di intensità in termini di elaborazione, Iternal ha dovuto ridimensionare il cluster precedente, che utilizzava istanze P3.2xl di Amazon EC2, e implementare un nuovo set di infrastruttura con la memoria quadruplicata servendosi delle istanze P3.16xl di Amazon EC2. Nel giro di 90 minuti, l'azienda aveva messo a punto il nuovo sistema e completato l’addestramento dei modelli. “La capacità di iterare e fornire funzionalità più velocemente quando non siamo esattamente certi della quantità di calcolo richiesta è molto preziosa,” afferma Hanby. A partire dal 2023, Iternal utilizza queste funzionalità per offrire un prodotto vocale AI quasi in tempo reale con una latenza di soli 300 millisecondi.

Iternal fornisce automazione e tecnologia AI generativa in più di 300 lingue diverse in tutto il mondo, quindi l'azienda deve soddisfare una vasta gamma di requisiti infrastrutturali in tutti i suoi prodotti. Per soddisfare tali requisiti, utilizza i servizi AWS. Ad esempio, Iternal ha scelto Amazon Elastic Kubernetes Service (Amazon EKS), un servizio Kubernetes gestito, per eseguire Kubernetes nel cloud. “La combinazione di Amazon EKS supportata dalle istanze P3 di Amazon EC2 offre al nostro team una suite di strumenti completa affinché possa concentrarsi sulla creazione di prodotti innovativi,” afferma Williams.

La velocità e la facilità d'uso sono fondamentali per Iternal e i suoi clienti. L'azienda offre prodotti predefiniti pronti all'uso da parte di professionisti di vendite e marketing che preferiscono concentrarsi sulle offerte piuttosto che sulla tecnologia. L'obiettivo è fornire un valore immediato ai casi d'uso, indipendentemente da chi sia l'utente. “Consentiamo efficacemente alle organizzazioni aziendali di dimensionare facendo in modo che una persona svolga il lavoro di 30 a un decimo del costo precedente,” afferma Hanby. Ciò significa un miglioramento di 30 volte superiore del ritorno sull'investimento (ROI) e un risparmio sui costi del 90%.

Iternal desidera che la sua soluzione non sia solo semplice da usare, ma anche rapida da implementare a livello aziendale. “Il time to value medio per i nostri clienti è inferiore a 14 giorni,” afferma Hanby. Sfruttando la potenza di calcolo di AWS, Iternal può distribuire la sua offerta di IA a un nuovo cliente in soli 30 minuti. Iternal sposta quindi il tempo risparmiato in termini di sviluppo e implementazione riassegnandolo all'innovazione.