Publicado: Nov 18, 2022
Anunciamos hoje a disponibilidade pública do modelo de parâmetro de última geração da Amazon, o Model 20 Billion do Alexa Teacher (20B do AlexaTM) no SageMaker JumpStart. Os clientes podem acessar programaticamente o modelo 20B do AlexaTM para executar inferências usando as APIs disponíveis no SDK do Python do SageMaker.
O programa Alexa Teacher Model (AlexaTM) da Amazon Alexa AI foi projetado para criar modelos de aprendizado profundo (baseados principalmente em Transformer) multitarefa e multilíngues em grande escala para aprimorar a generalização sem exigir grandes quantidades de dados de tarefas posteriores. Usando pré-treinamento em grande escala, os modelos Teacher Model são capazes de boa generalização para aprender novas tarefas com base em dados esparsos e ajudar os desenvolvedores a aumentar a precisão de tarefas posteriores. O modelo 20B do AlexaTM é o maior em tamanho e demonstrou performance competitiva em tarefas e comparações de NLP comuns (SuperGLUE e XNLI).
O Amazon SageMaker JumpStart é o hub de machine learning (ML) do SageMaker que oferece mais de 350 algoritmos incorporados, modelos pré-treinados e modelos de solução predefinidos que ajudam os clientes a começar a usar ML em pouco tempo. Os modelos pré-treinados hospedados no JumpStart incluem modelos State-of-the-Art (SOTA – de última geração) de hubs de modelos populares como TensorFlow, PyTorch, Hugging Face e MXNet, e apoiam tarefas comuns de ML como detecção de objetos, classificação de textos e geração de textos. Para ajudar cientistas de dados e profissionais de ML a começar a usar com rapidez e segurança, os conteúdos são armazenados em um repositório da AWS e incluem treinamento e scripts de inferência compatíveis com os recursos do SageMaker. Os clientes podem ajustar os modelos usando seus próprios dados ou implantá-los como estão para realizar inferências.
O modelo 20B do AlexaTM pode ser usado em todas as regiões em que o Amazon SageMaker está disponível.
Acesse o blog Alexa Science para saber mais sobre o modelo e o blog de lançamento do JumpStart para saber mais sobre como acessar o AlexaTM usando o JumpStart. Para navegar por todos os modelos disponíveis no SageMaker JumpStart, acesse o hub de ML do SageMaker JumpStart.