Iternal Technologies, AWS 기반 생성형 AI로 마케팅 ROI를 30배 개선

Iternal은 오래된 아이디어인 조립 라인을 이용하여 마케팅 혁명을 일으키기 위해 설립되었습니다. Iternal은 6개월 후에는 향후 효용성이 없는 자산을 만드는 데 시간과 에너지를 투자하는 대신 생성형 AI로 큐레이션되고 결합된 모듈식 콘텐츠 블록을 사용하여 개인화되고 관련성이 높은 자산을 만들기 시작했습니다. Iternal은 이러한 미래 비전을 실현하기 위해 대규모 컴퓨팅 파워에 안정적으로 액세스할 필요가 있습니다. 이 회사는 필요한 컴퓨팅 리소스에 액세스할 수 있도록 AWS에서 직접 제품군을 구축하기로 결정했습니다. Williams는 “AWS를 사용한 가치는 혁신 기술 개발을 가속화하고 멀티 리전 가용성이 필요한 글로벌 기업 고객에게 혁신 기술을 제공하는 것”이라고 말합니다.

Iternal은 Inception의 일원이기 때문에 NVIDIA Riva 음성 복제 기능을 처음으로 이용할 수 있었습니다. 그런 다음 광범위하고 심층적인 컴퓨팅 서비스인 Amazon Elastic Compute Cloud(Amazon EC2)를 사용하여 개념 증명 생성형 AI 음성 제품을 2주 만에 가동하고 실행했습니다. 구체적으로 말하자면, Iternal은 기계 학습 및 고성능 컴퓨팅 애플리케이션을 위해 최대 8개의 NVIDIA V100 Tensor Core GPU를 갖춘 Amazon EC2 P3 인스턴스를 사용하여 솔루션을 구동했습니다. “우리는 AWS에서 매우 빠르게 움직이고 있습니다”라고 Hanby는 말합니다. “매년 최소 4개의 새로운 엔터프라이즈급 제품을 배포합니다.”

Iternal은 정확한 마케팅 자산을 제공하기 위해 매우 복잡한 모델을 훈련할 때 원하는 대로 확장해야 하기 때문에 AWS를 기반으로 구축하고자 했습니다. 음성 복제 이니셔티브가 좋은 예시입니다. 음성 모델 훈련에 컴퓨팅이 점차 더 많이 사용됨에 따라 Iternal은 Amazon EC2 P3.2xl 인스턴스를 사용하는 기존 클러스터를 스핀다운하고 Amazon EC2 P3.16xl 인스턴스를 사용하여 메모리가 4배인 새로운 인프라 세트를 배포해야 했습니다. 90분 이내에 회사는 새 시스템을 가동하고 모델 훈련을 완료했습니다. Hanby는 “얼마나 많은 컴퓨팅이 필요한지 정확히 알 수 없을 때 더 빠르게 반복하고 기능을 제공할 수 있는 능력이 대단히 소중합니다”라고 말합니다. 2023년 현재 Iternal은 이러한 기능을 사용하여 지연 시간이 300밀리초에 불과한 실시간에 가까운 AI 음성 제품을 제공합니다.

Iternal은 전 세계 300개 이상의 고유한 언어 로케일로 자동화 및 생성형 AI 기술을 제공하므로 결과물 전반에 걸쳐 다양한 인프라 요구 사항을 충족해야 합니다. 이 회사는 AWS 서비스를 사용하여 이러한 요구 사항을 충족합니다. 예를 들어, Iternal은 클라우드에서 Kubernetes를 실행하기 위해 관리형 Kubernetes 서비스인 Amazon Elastic Kubernetes Service(Amazon EKS)를 선택했습니다. “Amazon EC2 P3 인스턴스가 지원하는 Amazon EKS의 조합은 우리 팀이 혁신적인 제품을 개발하는 데 집중할 수 있도록 풀 서비스 도구 모음을 제공합니다”라고 Williams는 말합니다.

속도와 사용 편의성은 Iternal과 고객에게 매우 중요합니다. 이 회사는 기술보다 거래에 초점을 맞추는 것을 선호하는 영업 및 마케팅 전문가가 즉시 사용할 수 있는 제품을 제공합니다. 목표는 사용자가 누구인지에 관계없이 사용 사례에 즉각적인 가치를 제공하는 것입니다. Hanby는 “기존 비용의 10분의 1로 1명이 30명의 작업을 수행하도록 함으로써 엔터프라이즈 조직이 효과적으로 확장할 수 있도록 지원합니다”라고 말합니다. 즉, 투자 수익률(ROI)이 30배 향상되고 비용이 90% 절감됩니다.

Iternal은 사용하기 쉬울 뿐만 아니라 엔터프라이즈 수준에서 신속하게 배포할 수 있는 솔루션을 원합니다. “고객의 평균 가치 창출 시간은 14일 미만입니다”라고 Hanby는 말합니다. Iternal은 AWS 컴퓨팅 파워를 활용하여 30분 이내에 신규 고객에게 AI 제품을 배포할 수 있습니다. 그런 다음 Iternal은 개발 및 배포에서 절약한 시간을 혁신 작업에 활용합니다.