A Iternal Technologies melhora o ROI de marketing em 30 vezes com IA generativa na AWS

A Iternal foi fundada para revolucionar o marketing com uma ideia extraída dos livros de história: a linha de montagem. Em vez de investir tempo e energia na criação de ativos que não serão mais úteis após seis meses, a Iternal decidiu criar ativos personalizados e relevantes usando blocos modulares de conteúdo que são selecionados e combinados por IA generativa. Para alcançar essa visão futurista, a Iternal precisa de acesso confiável ao poder de computação em escala. A empresa optou por criar seu pacote de produtos diretamente na AWS para acessar os recursos computacionais necessários. “O valor de usar a AWS foi acelerar o desenvolvimento de tecnologias inovadoras e levá-las a um conjunto global de clientes corporativos que precisam de disponibilidade multirregional”, diz Williams.

Como a Iternal faz parte da Inception, ela foi uma das primeiras a obter acesso aos recursos de clonagem de voz do NVIDIA Riva. Em seguida, usou o Amazon Elastic Compute Cloud (Amazon EC2), um serviço de computação amplo e profundo, para colocar em funcionamento um produto de voz de IA generativa para prova de conceito em duas semanas. Mais especificamente, a Iternal usou instâncias P3 do Amazon EC2, que têm até 8 GPUs NVIDIA V100 Tensor Core para aplicações de machine learning e computação de alto desempenho, para potencializar a solução. “Nós nos movemos muito rapidamente na AWS”, diz Hanby. “Implantamos pelo menos quatro novos produtos de nível corporativo por ano.”

A Iternal queria criar na AWS porque precisa escalar à vontade ao treinar modelos altamente complexos para fornecer ativos de marketing precisos. Sua iniciativa de clonagem de voz foi um exemplo disso. À medida que o treinamento do modelo de voz se tornou mais intensivo em computação, a Iternal teve que desativar seu antigo cluster, que usava instâncias P3.2xl do Amazon EC2, e implantar um novo conjunto de infraestrutura que tinha quatro vezes mais memória usando instâncias P3.16xl do Amazon EC2. Em 90 minutos, a empresa desenvolveu o novo sistema e concluiu o treinamento do modelo. “A capacidade de iterar e fornecer recursos mais rapidamente quando não temos certeza de quanta computação é necessária é muito valiosa”, diz Hanby. A partir de 2023, a Iternal usa esses recursos para oferecer um produto de voz de IA quase em tempo real com uma latência de apenas 300 milissegundos.

A Iternal fornece automação e tecnologia de IA generativa em mais de 300 idiomas exclusivos em todo o mundo, portanto, a empresa deve atender a uma ampla variedade de requisitos de infraestrutura em seus produtos. Ela usa os serviços da AWS para atender a esses requisitos. Por exemplo, a Iternal escolheu o Amazon Elastic Kubernetes Service (Amazon EKS), um serviço gerenciado do Kubernetes para executar o Kubernetes na nuvem. “A combinação do Amazon EKS apoiado pelas instâncias P3 do Amazon EC2 oferece à nossa equipe um conjunto completo de ferramentas para que ela possa se concentrar na criação de produtos inovadores”, diz Williams.

A velocidade e a facilidade de uso são essenciais para a Iternal e seus clientes. A empresa oferece produtos prontos para uso imediato por profissionais de vendas e marketing que preferem se concentrar em negócios em vez de tecnologia. O objetivo é fornecer valor imediato aos casos de uso, independentemente de quem seja o usuário. “Capacitamos efetivamente as organizações corporativas a crescerem fazendo com que 1 pessoa faça o trabalho de 30 pessoas a um décimo do custo legado”, diz Hanby. Isso significa uma melhoria de 30 vezes no retorno sobre o investimento (ROI), bem como uma economia de 90% nos custos.

A Iternal quer que sua solução não seja apenas simples de usar, mas também que seja implantada rapidamente no nível corporativo. “O tempo médio de avaliação do nosso cliente é de menos de 14 dias”, diz Hanby. Ao aproveitar o poder de computação da AWS, a Iternal pode implantar sua oferta de IA para um novo cliente em menos de 30 minutos. Em seguida, a Iternal dedica o tempo que economiza em desenvolvimento e implantação e o realoca para inovação.