Modelos de IA generativa do Meta Llama 3.1 já estão disponíveis no Amazon SageMaker JumpStart
Os modelos mais avançados e capazes do Meta Llama até o momento, Llama 3.1, já estão disponíveis no Amazon SageMaker JumpStart, um hub de machine learning (ML) que oferece modelos pré-treinados e algoritmos integrados para ajudar você a começar a usar ML em pouco tempo. Você pode implantar e usar os modelos Llama 3.1 com alguns cliques no SageMaker Studio ou de forma programática com o SageMaker Python SDK.
Os modelos Llama 3.1 demonstram melhorias significativas em relação às versões anteriores devido ao aumento dos dados e da escala de treinamento. Os modelos oferecem suporte a um comprimento de contexto de 128K, um aumento em relação aos tokens de 120K tokens do Llama 3. Os modelos Llama 3.1 têm 16 vezes a capacidade dos modelos Llama 3 e um raciocínio aprimorado para casos de uso de diálogos multilíngues em oito idiomas. Os modelos podem acessar mais informações de longas passagens de texto para tomar decisões mais informadas e aproveitar dados contextuais mais sofisticados para gerar respostas mais refinadas. De acordo com a Meta, o Llama 3.1 405B é um dos maiores modelos de base disponíveis publicamente e é adequado para geração de dados sintéticos e destilação de modelos, os quais podem melhorar modelos menores do Llama. Para usar dados sintéticos no ajuste de modelos, você precisa cumprir a licença da Meta. Leia o EULA para obter informações adicionais. Todos os modelos Llama 3.1 oferecem recursos de última geração em conhecimento geral, matemática, uso de ferramentas e tradução multilíngue.
Hoje, os modelos Llama 3.1 estão disponíveis no SageMaker JumpStart nas regiões Leste dos EUA (Ohio), Oeste dos EUA (Oregon) e Leste dos EUA (Norte da Virgínia) da AWS. Para começar a usar modelos Llama 3.1 por meio do SageMaker JumpStart, consulte a documentação e o blog.