Bases de conhecimento do Amazon Bedrock já oferecem suporte ao Llama 3.1 405B, 70B e 8B

Publicado: 29 de ago de 2024

As bases de conhecimento do Amazon Bedrock conectam com segurança modelos de base (FMs) às fontes de dados internas da empresa para geração aumentada via recuperação (RAG), oferecendo respostas relevantes, específicas ao contexto e precisas. A família Llama 3.1 da Meta de modelos de base (405B, 70B e 8B) agora está disponível nas bases de conhecimento.

O Llama 3.1 é a nova geração de modelos de última geração da Meta, com suporte a 128.000 tokens (aproximadamente 96.000 palavras ou 192 páginas de material) com comprimento de contexto. Os modelos do Llama 3.1 são adequados para tarefas que exigem raciocínio complexo, resultados rápidos e RAG. O Llama 3.1 tem suporte na API RetrieveAndGenerate, totalmente gerenciada.

As bases de conhecimento do Amazon Bedrock nos modelos 405B, 70B e 8B do Llama 3.1 agora estão disponíveis na região da AWS Oeste dos EUA (Oregon). Para saber mais, leia o blog de notícias da AWS sobre o lançamento e acesse a página Meta Llama no Amazon Bedrock. Para começar a usar, consulte a documentação das bases de conhecimento do Amazon Bedrock e acesse o console do Amazon Bedrock.