Iternal Technologies Meningkatkan ROI Pemasaran 30x dengan AI Generatif di AWS

Iternal didirikan untuk merevolusi pemasaran dengan ide yang diambil dari buku sejarah: jalur perakitan. Daripada menginvestasikan waktu dan energi untuk menciptakan aset yang tidak lagi berguna setelah 6 bulan, Iternal mulai membuat aset yang dipersonalisasi dan relevan menggunakan blok konten modular yang dikurasi dan digabungkan dengan AI generatif. Untuk mencapai visi futuristik ini, Iternal memerlukan akses yang andal ke daya komputasi dalam skala besar. Perusahaan memilih untuk membangun rangkaian produknya langsung di AWS untuk mengakses sumber daya komputasi yang diperlukan. “Nilai penggunaan AWS adalah untuk mempercepat pengembangan teknologi inovatif dan menghadirkannya ke pelanggan perusahaan global yang membutuhkan ketersediaan multiregional,” kata Williams.

Karena Iternal adalah bagian dari Inception, Iternal termasuk yang pertama mendapatkan akses ke kemampuan kloning suara NVIDIA Riva. Iternal kemudian menggunakan Amazon Elastic Compute Cloud (Amazon EC2), layanan komputasi yang luas dan mendalam, untuk menyiapkan dan menjalankan produk suara AI generatif bukti konsep dalam 2 minggu. Lebih khusus lagi, Iternal menggunakan Instans P3 Amazon EC2, yang memiliki hingga 8 GPU NVIDIA V100 Tensor Core untuk machine learning dan aplikasi komputasi performa tinggi, untuk mendukung solusi tersebut. “Kami bergerak sangat cepat di AWS,” kata Hanby. “Kami melakukan deployment setidaknya empat produk baru tingkat perusahaan dalam setahun.”

Iternal ingin membangun di AWS karena mereka perlu melakukan penskalaan sesuai keinginan saat melatih model yang sangat kompleks untuk menghasilkan aset pemasaran yang akurat. Inisiatif kloning suaranya adalah salah satu contohnya. Seiring dengan makin intensifnya pelatihan model suara terhadap komputasi, Iternal harus mengurangi klaster lamanya, yang menggunakan instans P3.2xl Amazon EC2, dan melakukan deployment serangkaian infrastruktur baru yang memiliki memori empat kali lipat menggunakan instans P3.16xl Amazon EC2. Dalam waktu 90 menit, perusahaan telah mengembangkan sistem baru dan menyelesaikan pelatihan model. “Kemampuan untuk melakukan iterasi dan memberikan kemampuan lebih cepat ketika kita tidak yakin jumlah komputasi yang diperlukan sangatlah penting,” kata Hanby. Pada tahun 2023, Iternal menggunakan kemampuan tersebut untuk menawarkan produk suara AI mendekati waktu nyata dengan latensi hanya 300 milidetik.

Iternal menyediakan otomatisasi dan teknologi AI generatif di lebih dari 300 bahasa lokal yang unik di seluruh dunia, sehingga perusahaan harus memenuhi berbagai macam persyaratan infrastruktur di seluruh hasil kerjanya. Perusahaan ini menggunakan layanan AWS untuk memenuhi persyaratan tersebut. Misalnya, Iternal memilih Amazon Elastic Kubernetes Service (Amazon EKS), layanan Kubernetes terkelola, untuk menjalankan Kubernetes di cloud. “Kombinasi Amazon EKS yang didukung oleh Instans P3 Amazon EC2 memberi tim kami serangkaian alat layanan lengkap sehingga dapat fokus dalam membangun produk inovatif,” kata Williams.

Kecepatan dan kemudahan penggunaan sangat penting bagi Iternal dan pelanggannya. Perusahaan ini memberikan produk yang siap digunakan langsung oleh profesional penjualan dan pemasaran yang lebih memilih fokus pada kesepakatan daripada teknologi. Tujuannya adalah untuk memberikan nilai langsung pada kasus penggunaan, terlepas dari siapa penggunanya. “Kami secara efektif memberdayakan organisasi perusahaan untuk meningkatkan skalanya dengan memiliki hanya 1 orang untuk melakukan pekerjaan 30 orang dengan biaya sepersepuluh dari biaya sebelumnya,” kata Hanby. Hal ini berarti peningkatan laba atas investasi (ROI) sebesar 30 kali lipat serta penghematan biaya sebesar 90 persen.

Iternal ingin solusinya tidak hanya mudah digunakan, tetapi juga dapat dilakukan deployment dengan cepat di tingkat perusahaan. “Rata-rata waktu pelanggan kami untuk mendapatkan nilai kurang dari 14 hari,” kata Hanby. Dengan memanfaatkan kekuatan komputasi AWS, Iternal dapat melakukan deployment penawaran AI-nya kepada pelanggan baru hanya dalam waktu 30 menit. Iternal kemudian menggunakan waktu yang dihemat untuk pengembangan dan deployment lalu memindahkan alokasinya ke inovasi.