Iternal Technologies 利用 AWS 的生成式 AI 將行銷投資報酬率提高了 30 倍

Iternal 的成立旨在利用一個從歷史書中的獲得的點子徹底改變行銷方式，而這個所謂的電子就是裝配線。與其投入時間和精力來建立 6 個月後將不再有用的資產，Iternal 寧可使用由生成式 AI 策劃和組合的模組化內容區塊來建立個人化的相關資產。為了實現這個未來願景，Iternal 需要可靠地大規模獲取運算能力。該公司選擇直接在 AWS 上建置其產品套件以存取其所需的運算資源。「使用 AWS 的價值在於加速創新技術的開發，並將其提供給需要多區域可用性的全球企業客戶，」Williams 說。

由於 Iternal 是 Inception 的一部分，因此它是最早獲得 NVIDIA Riva 語音複製功能的公司之一。然後，它使用 Amazon Elastic Compute Cloud (Amazon EC2)，這是一種廣泛且深度的運算服務，能在 2 週內啟動並運行概念驗證的生成式 AI 語音產品。更具體地說，Iternal 使用 Amazon EC2 P3 執行個體 (該執行個體具有多達 8 個 NVIDIA V100 Tensor Core GPU，用於機器學習和高效能運算應用程式) 為解決方案提供動力。「我們在 AWS 上的發展速度非常快，」Hanby 說。「我們每年至少部署四種新的企業級產品。」

Iternal 要在 AWS 上建置，因為它在訓練高度複雜的模型以提供準確的行銷資產時，需要隨意擴展。它的語音複製計畫就是一個好例子。隨著語音模型訓練的運算密集程度越來越大，Iternal 不得不縮減其使用 Amazon EC2 P3.2xl 執行個體的舊叢集，並部署一組新的基礎架構，該基礎架構的記憶體是使用 Amazon EC2 P3.16xl 執行個體的四倍。在 90 分鐘內，該公司已經開發了新的系統並完成模型培訓。「當我們不確定需要多少運算時，更快地迭代和交付功能的能力非常有價值，」Hanby 說。截至 2023 年，Iternal 使用這些功能來提供近乎即時的 AI 語音產品，延遲僅為 300 毫秒。

Iternal 在全球 300 多個獨特的語言地區提供自動化和生成式 AI 技術，因此公司必須在其交付項目中滿足各種基礎架構需求。它使用 AWS 服務來滿足這些需求。例如，Iternal 選擇 Amazon Elastic Kubernetes Service (Amazon EKS，一項受管 Kubernetes 服務)，在雲端執行 Kubernetes。「由 Amazon EC2 P3 執行個體支援的 Amazon EKS 組合為我們的團隊提供了全套工具服務，使其能夠專注於建立創新產品，」Williams 表示。

速度和易用性對 Iternal 及其客戶來說非常重要。該公司提供的產品可供銷售和行銷專業人員開箱即用，這些專業人員更喜歡專注於交易而不是技術。他們的目標是為使用案例提供直接價值，無論使用者是誰。Hanby 表示：「我們讓 1 個人以傳統成本的十分之一完成 30 個人的工作，從而有效地增強企業組織的擴展能力。」這表示投資報酬率 (ROI) 提高了 30 倍，並節省 90% 的成本。

Iternal 希望其解決方案不僅易於使用，而且可以在企業級別快速部署。「我們客戶的平均價值實現速度不到 14 天，」漢比說。利用 AWS 運算能力，Iternal 只需 30 分鐘即可將其 AI 產品部署給新客戶。然後，Iternal 將在開發和部署上節省的時間重新分配給創新。