Iternal Technologies verbessert den Marketing-ROI um das 30-fache mit generativer KI in AWS

Iternal wurde gegründet, um das Marketing mit einer Idee zu revolutionieren, die aus den Geschichtsbüchern stammt: dem Fließband. Anstatt Zeit und Energie in die Erstellung von Inhalten zu investieren, die nach 6 Monaten nicht mehr zu gebrauchen sind, hat sich Iternal zum Ziel gesetzt, personalisierte, relevante Inhalte mit Hilfe von modularen Inhaltsblöcken zu erstellen, die durch generative KI kuratiert und kombiniert werden. Um diese Zukunftsvision zu verwirklichen, benötigt Iternal einen zuverlässigen Zugang zu Rechenleistung in großem Maßstab. Das Unternehmen entschied sich, seine Produktreihe direkt in AWS zu erstellen, um auf die benötigten Rechenressourcen zuzugreifen. „Der Nutzen von AWS bestand darin, die Entwicklung innovativer Technologien zu beschleunigen und sie einer globalen Gruppe von Unternehmenskunden zugänglich zu machen, die eine überregionale Verfügbarkeit benötigen“, sagt Williams.

Da Iternal zu Inception gehört, war es eines der ersten Unternehmen, das Zugang zu den Sprachklon-Funktionen von NVIDIA Riva erhielt. Anschließennd nutzte Internal Amazon Elastic Compute Cloud (Amazon EC2), einen umfassenden und tiefgehenden Rechenservice, um ein generatives KI-Sprachprodukt als Proof-of-Concept innerhalb von zwei Wochen zum Laufen zu bringen. Konkret nutzte das Unternehmen Amazon-EC2-P3-Instances mit bis zu 8 NVIDIA V100 Tensor Core GPUs für Machine Learning und High-Performance-Computing-Anwendungen, um die Lösung zu betreiben. „Wir bewegen uns in AWS sehr schnell“, sagt Hanby. „Wir stellen pro Jahr mindestens vier neue Produkte für Unternehmen bereit.“

Iternal wollte unbedingt in AWS arbeiten, da das Unternehmen beim Training hochkomplexer Modelle beliebig skalieren muss, um präzise abgestimmte Marketing-Assets bereitzustellen. Die Initiative zum Klonen von Stimmen war ein typisches Beispiel. Da das Training des Sprachmodells immer rechenintensiver wurde, musste Iternal seinen alten Cluster, der Amazon-EC2 P3.2xl-Instances verwendete, herunterfahren und eine neue Infrastruktur mit viermal mehr Speicherplatz und Amazon EC2-P3.16xl-Instances bereitstellen. Innerhalb von 90 Minuten hatte das Unternehmen das neue System in Betrieb genommen und die Modellschulung abgeschlossen. „Die Möglichkeit, Funktionen schneller zu iterieren und bereitzustellen, wenn wir nicht genau wissen, wie viel Rechenleistung erforderlich ist, ist sehr wertvoll“, sagt Hanby. Ab 2023 nutzt Iternal diese Funktionen, um ein KI-Sprachprodukt nahezu in Echtzeit mit einer Latenz von lediglich 300 Millisekunden anzubieten.

Iternal bietet Automatisierungs- und generative KI-Technologie in mehr als 300 verschiedenen Sprachumgebungen auf der ganzen Welt an, so dass das Unternehmen eine Vielzahl von Infrastrukturanforderungen für seine Produkte erfüllen muss. Es verwendet AWS-Services, um diese Anforderungen zu erfüllen. Internal entschied sich beispielsweise für Amazon Elastic Kubernetes Service (Amazon EKS), einen verwalteten Kubernetes-Service, um Kubernetes in der Cloud auszuführen. "Die Kombination aus Amazon EKS und Amazon EC2-P3-Instances gibt unserem Team eine umfassende Suite von Tools an die Hand, damit es sich auf die Entwicklung innovativer Produkte konzentrieren kann", sagt Williams.

Geschwindigkeit und Benutzerfreundlichkeit sind für Iternal und seine Kunden von entscheidender Bedeutung. Das Unternehmen liefert sofort einsatzbereite Produkte für Vertriebs- und Marketingfachleute, die sich lieber auf Angebote als auf Technologie konzentrieren. Ziel ist es, einen unmittelbaren Nutzen für Anwendungsfälle zu schaffen, unabhängig davon, wer der Nutzer ist. "Wir versetzen Unternehmen in die Lage zu skalieren, indem wir eine Person die Arbeit von 30 Personen zu einem Zehntel der bisherigen Kosten erledigen lassen", sagt Hanby. Das bedeutet eine 30-fache Verbesserung der Kapitalrendite (ROI) sowie eine Kosteneinsparung von 90 Prozent.

Iternal möchte, dass seine Lösung nicht nur einfach zu bedienen ist, sondern auch schnell auf Unternehmensebene eingesetzt werden kann. "Unsere durchschnittliche Kundenzeit bis zur Wertschöpfung beträgt weniger als 14 Tage", sagt Hanby. Durch die Nutzung der AWS-Rechenleistung kann Iternal sein KI-Angebot in nur 30 Minuten für einen neuen Kunden bereitstellen. Iternal nutzt dann die Zeit, die es bei der Entwicklung und Bereitstellung einspart, und setzt sie für Innovationen ein.