AWS Inferentia
Os aceleradores do AWS Inferentia foram projetados pela AWS para gerar alta performance ao menor custo para suas aplicações de inferência de Deep Learning (DL – Aprendizado profundo).
Os aceleradores do AWS Inferentia da primeira geração impulsionam as instâncias Inf1 do Amazon Elastic Compute Cloud (Amazon EC2), que entregam um throughput até 2,3 vezes maior e um custo por inferência até 70% menor em comparação com instâncias do Amazon EC2 baseadas em GPU. Muitos clientes, incluindo Airnb, Snap, Sprinklr, Money Forward e Amazon Alexa, adotaram as instâncias Inf1 e concretizaram seus benefícios de performance e custo.
O acelerador do AWS Inferentia2 gera um salto importante em performance e recursos em relação ao AWS Inferentia da primeira geração. O Inferentia2 gera um throughput até 4 vezes maior e uma latência até 10 vezes menor em comparação com o Inferentia. As instâncias Inf2 do Amazon EC2 baseadas em Inferentia2 são projetada para gerar alta performance ao menor custo no Amazon EC2 para suas aplicações de inferência de DL. Elas são otimizadas para implantar modelos cada vez mais complexos, como Large Language Models (LLM – Grandes modelos de linguagem) e transformadores de visão, em escala. As instâncias Inf2 são as primeiras instâncias otimizadas para inferência no Amazon EC2 a oferecer suporte para inferência distribuída em escala horizontal com conectividade de velocidade ultra-alta entre os aceleradores. Agora é possível implantar eficientemente um modelo de 175 bilhões de parâmetros para inferência em vários aceleradores em uma única instância Inf2. As instâncias Inf2 geram melhor performance de preços do que as Inf1 para modelos menores.
O AWS Neuron é o SDK que ajuda os desenvolvedores a implantar modelos nos dois aceleradores AWS Inferentia e executar suas aplicações de inferência para processamento/compreensão de linguagem natural, tradução de idiomas, geração de vídeo e imagem, reconhecimento de fala, personalização, detecção de fraudes e muito mais. Ele se integra nativamente a frameworks bem conhecidos de machine learning (ML), como PyTorch e TensorFlow, de modo que você pode continuar a usar seus fluxos de trabalho existentes e executar aceleradores do Inferentia com apenas algumas linhas de código.
Benefícios
High performance e throughput
Cada acelerador de primeira geração do Inferentia tem quatro NeuronCores de primeira geração com até 16 aceleradores do Inferentia por instância Inf1 do EC2. Cada acelerador do Inferentia2 tem dois NeuronCores de segunda geração com até 12 aceleradores Inferentia2 por instância Inf2 do EC2. O Inferentia2 oferece throughput até 4 vezes maior e performance de computação 3 vezes maior que o Inferentia. Cada acelerador do Inferentia2 comporta até 190 trilhões de operações flutuantes por segundo (TFLOPS) de performance FP16.
Baixa latência com memória de alta largura de banda
O Inferentia da primeira geração tem 8 GB de memória DDR4 por acelerador e também apresenta uma grande quantidade de memória no chip. O Inferentia2 oferece 32 GB de HBM2e por acelerador, o que aumenta a memória total em 4 vezes e a largura de banda da memória em 10 vezes em relação ao Inferentia.
Suporte nativo para frameworks de ML
O AWS Neuron SDK se integra nativamente a frameworks de ML bem conhecidos, como PyTorch e TensorFlow. Com o AWS Neuron, é possível usar esses frameworks para implantar modelos de DL de maneira otimizada em aceleradores AWS Inferentia com alterações mínimas no código e sem vinculação a soluções específicas do fornecedor.
Ampla gama de tipos de dados com seleção automática
O Inferentia da primeira geração oferece suporte aos tipos de dados FP16, BF16 e INT8. O Inferentia2 acrescenta suporte para os tipos de dados FP32, TF32 e o novo FP8 configurável (cFP8) para oferecer aos desenvolvedores mais flexibilidade para otimizar a performance e a precisão. O AWS Neuron seleciona automaticamente os modelos FP32 de alta precisão para tipos de dados com precisão mais baixa, ao mesmo tempo que otimiza a precisão e a performance. A seleção automática reduz o tempo de entrada no mercado removendo a necessidade de retreinamento de precisão mais baixa.
Recursos de última geração para aprendizado profundo
O Inferentia2 acrescenta otimizações de hardware para tamanhos de entrada dinâmicos e operadores personalizados escritos em C++. Também comporta arredondamento estocástico, uma maneira de arredondar de forma probabilística que permite alta performance e precisão mais elevada em comparação com os modos de arredondamento herdados.
Criadas para sustentabilidade
As instâncias Inf2 oferecem performance/watt até 45% melhor em comparação com instâncias baseadas em GPU no Amazon EC2 porque, juntamente com os aceleradores do Inferentia2 subjacentes, são criadas para uma finalidade específica para executar modelos de DL em escala. As instâncias Inf2 ajudam a alcançar as metas de sustentabilidade ao implantar modelos ultragrandes.
SDK do AWS Neuron
O AWS Neuron é o SDK que ajuda os desenvolvedores a implantar modelos nos aceleradores do AWS Inferentia e treiná-los no acelerador do AWS Trainium. Ele se integra nativamente a frameworks bem conhecidos de ML, como PyTorch e TensorFlow, de modo que você pode continuar a usar seus fluxos de trabalho existentes e executar aceleradores do Inferentia com apenas algumas linhas de código.
AWS Trainium
O AWS Trainium é um acelerador de treinamento de DL projetado pela AWS que fornece treinamento de DL de alta performance e ótimo custo/benefício na AWS. As instâncias Trn1 do Amazon EC2, com a tecnologia AWS Trainium, oferecem a melhor performance no treinamento de DL para modelos muito usados de processamento de linguagem natural (PLN) na AWS. As instâncias Trn1 oferecem até 50% de economia no custo de treinamento em relação a instâncias comparáveis baseadas em GPU.
Depoimentos de clientes
A Qualtrics projeta e desenvolve software de gerenciamento de experiências.
“Na Qualtrics, nosso foco é criar tecnologia que preencha lacunas de experiência para clientes, funcionários, marcas e produtos. Para isso, estamos desenvolvendo modelos complexos de aprendizado profundo multimodal e multitarefa para lançar novos recursos, como classificação de texto, marcação de sequências, análise de discurso, extração de frases-chave, extração de tópicos, agrupamento e compreensão de conversas de ponta a ponta. À medida que utilizamos esses modelos mais complexos em mais aplicações, o volume de dados não estruturados aumenta e precisamos de mais soluções otimizadas para inferência de performance que possam atender a essas demandas, como as instâncias Inf2, para oferecer as melhores experiências aos nossos clientes. Estamos entusiasmados com as novas instâncias Inf2, pois elas não só nos permitirão alcançar maiores throughputs, ao mesmo tempo que reduzirão drasticamente a latência, mas também introduzirão recursos como inferência distribuída e suporte aprimorado ao formato de entrada dinâmico, que nos ajudarão a escalar para atender às necessidades de implantação à medida que avançamos para modelos grandes e mais complexos.”
Aaron Colak, diretor de machine learning principal da Qualtrics
A Finch Computing é uma empresa de tecnologia de linguagem natural que fornece aplicações de inteligência artificial para clientes governamentais, de serviços financeiros e integradores de dados.
“Para atender às necessidades de processamento de linguagem natural em tempo real dos nossos clientes, desenvolvemos modelos de aprendizado profundo de última geração que se adaptam a grandes workloads de produção. Precisamos fornecer transações de baixa latência e obter altas throughputs para processar feeds de dados globais. Já migramos muitas workloads de produção para instâncias Inf1 e obtivemos uma redução de 80% no custo em relação a GPUs. Agora, estamos desenvolvendo modelos maiores e mais complexos que permitem um significado mais profundo e esclarecedor a partir do texto escrito. Muitos de nossos clientes precisam acessar esses insights em tempo real, e a performance das instâncias Inf2 nos ajudará a oferecer menor latência e maior throughput em relação às instâncias Inf1. Com as melhorias de performance da Inf2 e os novos recursos da Inf2, como suporte para tamanhos dinâmicos de entrada, estamos melhorando nossa eficiência de custos, elevando a experiência do cliente em tempo real e ajudando nossos clientes a obter novos insights com seus dados.”
Franz Weckesser, arquiteto chefe da Finch Computing
Fundada em 2008, a Airbnb, com sede em São Francisco, é um mercado comunitário com mais de quatro milhões de hosts que já receberam mais de 900 milhões de visitantes em quase todos os países do mundo.
“A plataforma de suporte à comunidade da Airbnb permite experiências de serviço inteligentes, escaláveis e excepcionais para nossa comunidade de milhões de hóspedes e hosts em todo o mundo. Estamos constantemente procurando maneiras de melhorar a performance de nossos modelos de processamento de linguagem natural que nossas aplicações de chatbot de suporte usam. Com as instâncias Inf1 do Amazon EC2 equipadas com o AWS Inferentia, notamos uma melhoria duas vezes maior na taxa de transferência disponível em relação às instâncias baseadas em GPU para nossos modelos BERT baseados em PyTorch. Esperamos utilizar as instâncias Inf1 para outros modelos e casos de uso no futuro.”
Bo Zeng, gerente de engenharia, AirBnB
“Incorporamos machine learning (ML) a vários aspectos do Snapchat, e explorar a inovação nesta área é uma prioridade importantíssima. Depois que conhecemos o Inferentia, começamos a colaborar com a AWS para adotar instâncias Inf1/Inferentia para nos ajudar com a implantação de ML, inclusive sobre performance e custo. Começamos com nossos modelos de recomendação e estamos ansiosos para adotar mais modelos com as instâncias Inf1 no futuro.”
Nima Khajehnouri, vice-presidente de engenharia da Snap Inc.
A plataforma Unified Customer Experience Management orientada por IA da Sprinklr (Unified-CXM) permite que as empresas coletem e traduzam o feedback do cliente em tempo real por meio de vários canais em insights acionáveis. Isso resulta em resolução proativa de problemas, aperfeiçoamento do desenvolvimento de produtos, aprimoramento do marketing de conteúdo, melhor atendimento ao cliente e muito mais. Com a instância Inf1 do Amazon EC2, conseguimos melhorar significativamente a performance de um de nossos modelos de processamento de linguagem natural (PLN) e melhorar a performance de um de nossos modelos de visão computacional. Estamos ansiosos para continuar usando a instância Inf1 do Amazon EC2 para melhor atender nossos clientes globais.”
Vasant Srinivasan, VP sênior de engenharia de produto, Sprinklr
“O Autodesk está aprimorando a tecnologia cognitiva do nosso assistente virtual com IA, o Autodesk Virtual Agent (AVA), com o uso do Inferentia. O AVA responde a mais de 100.000 perguntas de clientes por mês empregando técnicas de Natural Language Understanding (NLU – Compreensão da linguagem natural) e de aprendizado profundo para extrair o contexto, a finalidade e o significado das consultas. No projeto piloto do Inferentia, conseguimos alcançar throughputs 4,9 vezes superiores em relação ao G4dn para nossos modelos de NLU, e não vemos a hora de executar mais workloads nas instâncias Inf1 baseadas no Inferentia.”
Binghui Ouyang, cientista de dados sênior da Autodesk
“O uso do radar de penetração no solo e da detecção de defeitos visuais é normalmente o domínio de inspetores especializados. Uma arquitetura baseada em microsserviços da AWS nos permite processar vídeos capturados por veículos de inspeção automatizados e por inspetores. Ao migrar os modelos criados internamente das instâncias baseadas em GPU para o Inferentia, conseguimos reduzir 50% do custo. Além disso, conseguimos melhorar a performance, quando comparamos os tempos com uma instância G4dn de GPU. Nossa equipe está entusiasmada com a execução de mais workloads nas instâncias Inf1 baseadas no Inferentia.”
Jesús Hormigo, Diretor de nuvem e IA - Screening Eagle Technologies
A NTTPC Communications é um provedor de soluções de comunicação e serviços de rede no Japão, líder em telecomunicações na introdução de novos produtos inovadores no mercado de tecnologia da informação e comunicação.
“A NTTPC desenvolveu o “AnyMotion”, um serviço de plataforma API de análise de movimento baseado em modelos avançados de machine learning para estimativa de postura. A NTTPC implantou sua plataforma AnyMotion nas instâncias Inf1 do Amazon EC2 usando o Amazon Elastic Container Service (ECS) para um serviço de orquestração de contêiner totalmente gerenciado. Ao implantar contêineres AnyMotion na instância Inf1 do Amazon EC2, a NTTPC notou que a taxa de transferência aumentou cerca de quatro vezes e meia, a latência de inferência diminuiu 25% e o custo foi reduzido em 90% em comparação com as instâncias do EC2 baseadas em GPU da geração atual. Esses resultados superiores ajudarão a melhorar a qualidade dos serviços da AnyMotion em grande escala.”
Toshiki Yanagisawa, engenheiro de software, NTT PC Communications Incorporated
A Anthem é uma das empresas de prestação de serviços de saúde líderes do mercado, que atende às necessidades de mais de 40 milhões de associados do setor de saúde em vários estados americanos.
“O mercado de plataformas de saúde digital está crescendo a um ritmo notável. A coleta de inteligência neste mercado é um desafio, devido ao grande volume de dados de opiniões dos clientes e à sua natureza não estruturada. A nossa aplicação automatiza a geração de insights práticos obtidos pelas opiniões dos clientes, por meio de modelos de linguagem natural de aprendizado profundo (Transformers). A aplicação tem um forte componente computacional e precisa ser implantada com alta performance. Implantamos facilmente nossa carga de trabalho de inferência do aprendizado profundo nas instâncias Inf1 do Amazon EC2, com a tecnologia do processador AWS Inferentia. As novas instâncias Inf1 oferecem uma throughput duas vezes maior para as instâncias baseadas em GPU, e nos permitem agilizar as workloads de inferência.”
Numan Laanait, PhD, cientista-chefe de dados/IA, Anthem
Miro Mihaylov, PhD, cientista-chefe de dados/IA, Anthem
“O portfólio global da Condé Nast abrange mais de 20 marcas líderes de mídia, incluindo Wired, Vogue e Vanity Fair. Em poucas semanas, nossa equipe conseguiu integrar nosso mecanismo de recomendação com os chips do AWS Inferentia. Essa união permite várias otimizações de tempo de execução para modelos de linguagem natural de última geração nas instâncias Inf1 do SageMaker. Como resultado, observamos uma redução de 72% no custo em relação às instâncias de GPU implantadas anteriormente.”
Paul Fryzel, engenheiro-chefe de infraestrutura de IA, Condé Nast
"A Ciao está transformando câmeras de segurança convencionais em câmeras de análise de alto desempenho equivalentes à capacidade de um olho humano. Nosso aplicativo está promovendo o avanço da prevenção de desastres, monitorando condições ambientais por meio de soluções de câmera com IA baseadas na nuvem para emitir alertas antes que a situação evolua para um desastre. Esses alertas permitem reagir precocemente à situação. Com base na detecção de objetos, também podemos fornecer informações estimando o número de clientes chegando sem a presença de funcionários em lojas físicas. A Ciao Camera adotou comercialmente instâncias Inf1 do AWS Inferentia com desempenho de preço 40% superior ao G4dn com YOLOv4. Queremos ter mais de nossos serviços com a instância Inf1 para poder desfrutar de sua eficiência de custos significativa.”
Shinji Matsumoto, engenheiro de software, Ciao Inc.
“O Asahi Shimbun é um dos jornais diários mais populares do Japão. O Media Lab, um dos departamentos da nossa empresa, tem a missão de pesquisar as tecnologias mais recentes, especialmente de IA e conectar as tecnologias de ponta para novos negócios. Com o lançamento das instâncias do Amazon EC2 Inf1 baseadas no AWS Inferentia em Tóquio, testamos nossa aplicação de IA de resumo de texto com base em PyTorch nessas instâncias. Essa aplicação processa uma grande quantidade de texto e gera manchetes e frases resumidas treinadas em artigos dos últimos 30 anos. Usando o Inferentia, reduzimos os custos em uma ordem de magnitude em relação às instâncias baseadas em CPU. Essa redução significativa nos custos nos permitirá implantar nossos modelos mais complexos em escala, que antes acreditávamos não ser economicamente viável.”
Hideaki Tamori, PhD, Administrador Sênior, Media Lab, The Asahi Shimbun Company
“A CS Disco está reinventando a tecnologia jurídica como fornecedora líder de soluções de IA para descoberta eletrônica, desenvolvidas por advogados para advogados. O Disco AI acelera a tarefa ingrata de vasculhar terabytes de dados, acelerando os tempos de revisão e melhorando a precisão da revisão ao alavancar modelos complexos de processamento de linguagem natural, que são computacionalmente caros e de custo proibitivo. A Disco descobriu que as instâncias Inf1 baseadas no AWS Inferentia reduzem o custo de inferência no Disco AI em pelo menos 35% em comparação com as instâncias de placa de vídeo atuais. Com base nesta experiência positiva com as instâncias Inf1, a CS Disco vai explorar oportunidades de migração para o Inferentia.”
Alan Lockett, diretor sênior de pesquisa, CS Disco
“Na Talroo, oferecemos aos nossos clientes uma plataforma baseada em dados que lhes permite atrair candidatos únicos, para que possam fazer contratações. Estamos constantemente explorando novas tecnologias para garantir que a empresa possa oferecer os melhores produtos e serviços aos seus clientes. Usando o Inferentia, extraímos percepções de um corpo de dados de texto para aprimorar nossa tecnologia de busca e correspondência baseada em IA. A Talroo aproveita as instâncias do Amazon EC2 Inf1 para criar modelos de compreensão de linguagem natural de alto rendimento com o SageMaker. O teste inicial do Talroo mostra que as instâncias do Amazon EC2 Inf1 oferecem latência de inferência 40% menor e taxa de transferência 2X maior em comparação às instâncias baseadas em GPU G4dn. Com base nesses resultados, a Talroo espera usar instâncias Inf1 do Amazon EC2 como parte de sua infraestrutura da AWS.”
Janet Hu, Engenheiro de software, Talroo
"A Digital Media Professionals (DMP) visualiza o futuro com uma plataforma ZIA™ baseada em IA (inteligência artificial). As eficientes tecnologias de classificação de visão computacional da DMP são usadas para criar insights sobre os grandes volumes de dados de imagem em tempo real, como observação de condições e prevenção de crimes e de acidentes. Reconhecemos que nossos modelos de segmentação de imagem são executados quatro vezes mais rápido em instâncias Inf1 baseadas em AWS Inferentia em comparação com instâncias G4 baseadas em GPU. Devido a essa maior throughput e menor custo, o Inferentia nos permite implantar nossas workloads de IA, como aplicativos para câmeras automotivas em escala.”
Hiroyuki Umeda, diretor e gerente geral, Grupo de marketing e vendas, Digital Media Professionals
A Hotpot.ai capacita profissionais fora da área de design para criar gráficos atraentes, e ajuda os designers profissionais a automatizar as tarefas mecânicas.
“Como o machine learning é o centro da nossa estratégia, estamos muito interessados em experimentar as instâncias Inf1 baseadas no AWS Inferentia. Consideramos as instâncias Inf1 fáceis de integrar à nossa pipeline de pesquisa e desenvolvimento. O mais importante é que observamos ganhos de performance impressionantes, comparado às instâncias baseadas no G4dn GPU. Com o nosso primeiro modelo, as instâncias Inf1 renderam aproximadamente 45% a mais de taxa de transferência e reduziram em quase 50% os custos por inferência. Pretendemos trabalhar junto à equipe da AWS para implementar outros modelos e transferir a maioria da nossa infraestrutura de inferências de ML para o AWS Inferentia.”
Clarence Hu, fundador da Hotpot.ai
"A SkyWatch processa centenas de trilhões de pixels de dados de observação da Terra, capturados no espaço todos os dias. A adoção das novas instâncias Inf1 baseadas no AWS Inferentia com o uso do Amazon SageMaker para classificação de qualidade de imagem e detecção na nuvem em tempo real foi rápida e fácil. Foi tudo uma questão de trocar o tipo de instância em nossa configuração de implantação. Trocando os tipos de instância para Inf1 baseada no Inferentia, melhoramos a performance em 40% e reduzimos os custos gerais em 23%. Este foi um grande ganho. Ele nos permitiu reduzir nossos custos operacionais gerais, continuando ao mesmo tempo a oferecer aos nossos clientes uma geração de imagens por satélite de alta qualidade com o mínimo de sobrecarga de engenharia. Esperamos fazer a transição de todos os nossos endpoints de inferência e processos de ML em lotes para o uso de instâncias Inf1, a fim de aprimorar ainda mais a confiabilidade dos nossos dados e a experiência do cliente.”
Adler Santos, gerente de engenharia, SkyWatch
A Money Forward, Inc. presta serviços a empresas e indivíduos com uma plataforma financeira aberta e justa. Como parte dessa plataforma, a HiTTO Inc., empresa do grupo Money Forward, oferece um serviço de chatbot de IA, que usa modelos NLP personalizados para abordar várias necessidades dos seus clientes corporativos.
“A migração do nosso chatbot de IA para instâncias Inf1 do Amazon EC2 foi simples. Concluímos a migração em dois meses e lançamos um serviço de larga escala nas instâncias Inf1 usando o Amazon Elastic Container Service (ECS). Conseguimos reduzir nossa latência de inferência em 97% e nossos custos de inferência em mais de 50% (com relação a instâncias baseadas em GPU comparáveis) ao servir vários modelos por instância Inf1. Esperamos executar mais workloads nas instâncias Inf1 baseadas no Inferentia.”
Kento Adachi, líder técnico, escritório da diretoria de tecnologia da Money Forward, Inc.
Serviços da Amazon que usam o AWS Inferentia
O Amazon Advertising ajuda negócios de todos os tamanhos a se conectarem com seus clientes em todos os estágios da jornada de compra. Milhões de anúncios, incluindo texto e imagens, são moderados, classificados e oferecidos para uma experiência ideal do cliente diariamente.
“Para nosso processamento de anúncios em texto, implantamos modelos BERT baseados em PyTorch globalmente no AWS Inferentia baseado em instâncias Inf1. Ao mover dos GPUs para o Inferentia conseguimos reduzir nosso custo em 69% com performance comparável. Levamos menos de três semanas para compilar e testar nossos modelos para o AWS Inferentia. Ao usar o Amazon SageMaker para implantar nossos modelos para instâncias Inf1 garantimos que nossa implantação fosse escalável e fácil de gerenciar. Quando analisei pela primeira vez os modelos compilados, a performance com o AWS Inferentia foi tão impressionante que não precisei de executar novamente as avaliações para assegurar que estavam corretos! Daqui para frente, planejamos migrar nossos modelos de processamento de anúncios em imagem para o Inferentia. Já avaliamos e observamos uma latência 30% menor e uma economia de custo de 71% em relação a instâncias comparáveis baseadas em GPU para esses modelos.”
Yashal Kanungo, cientista aplicada, Amazon Advertising
“A IA e a inteligência baseada em ML do Amazon Alexa, desenvolvidas com a tecnologia Amazon Web Services, estão disponíveis hoje em mais de 100 milhões de dispositivos, e nossa promessa para os clientes é que a Alexa ficará cada vez mais inteligente, mais conversacional, mais proativa e até mesmo mais prazerosa. “O cumprimento dessa promessa requer aperfeiçoamentos contínuos nos tempos de resposta e nos custos de infraestrutura de machine learning, que é a razão pela qual estamos muito satisfeitos com o uso de instâncias Inf1 do Amazon EC2 para reduzir a latência de inferência e o custo por inferência no recurso de conversão de texto em fala da Alexa. Com as instâncias Inf1 do Amazon EC2, poderemos melhorar o serviço ainda mais para as dezenas de milhões de clientes que usam a Alexa todos os meses.”
Tom Taylor, VP sênior, Amazon Alexa.
“Estamos inovando constantemente para aperfeiçoar nossa experiência do cliente e reduzir nossos custos de infraestrutura. Mudar nossas workloads de perguntas e respostas beseadas na Web (WBQA) de instâncias P3 baseadas em GPU para instâncias Inf1 baseadas no AWS Inferentia não só nos ajudou a reduzir custos de inferência em 60%, como também melhorou a latência ponta a ponta em mais de 40%, ajudando a melhorar a experiência de perguntas e respostas do cliente com a Alexa. Usar o Amazon SageMaker para nosso modelo baseado em Tensorflow tornou o processo de troca para instâncias Inf1 simples e fácil de gerenciar. Agora estamos usando instâncias Inf1 globalmente para executar essas workloads de WBQA, além de otimizar a performance dessas instâncias no AWS Inferentia para reduzir ainda mais o custo e a latência.”
Eric Lind, engenheiro de desenvolvimento de software, Alexa AI.
“O Amazon Prime Video usa modelos de ML de visão computacional para analisar a qualidade dos vídeos de eventos ao vivo, a fim de garantir uma ótima experiência aos expectadores membros do Prime Video. Implantamos nossos modelos de ML para a classificação de imagens nas instâncias Inf1 do EC2 e a performance melhorou 4 vezes mais, além de observarmos uma redução de até 40% dos custos. Estamos tentando usar essas economias para inovar e criar modelos avançados, que possam detectar defeitos mais complexos, como intervalos de sincronização entre arquivos de áudio e vídeo para promover uma experiência de visualização aprimorada para os membros do Prime Video.”
"O Amazon Rekognition é uma aplicação descomplicada de análise de vídeo e imagem que ajuda o cliente a identificar objetos, pessoas, texto e atividades. O Amazon Rekognition precisa de uma infraestrutura de aprendizado profundo de alta performance que seja capaz de analisar bilhões de imagens e vídeos diariamente para os nossos clientes. Com as instâncias Inf1 baseadas no AWS Inferentia, executar modelos do Rekognition, como classificação de objetos, resultou em latência oito vezes menor e taxa de transferência duas vezes maior em comparação com a execução desses modelos em GPUs. Com base nesses resultados, estamos migrando o Rekognition para Inf1, permitindo que nossos clientes recebam resultados precisos com mais rapidez.”
Blogs e artigos
Patrick Moorhead, 13 de maio de 2020
James Hamilton, 28 de novembro de 2018
Vídeos
Obtenha acesso instantâneo ao nível gratuito da AWS.
