Publicado: Nov 13, 2023
Agora, você pode acessar o modelo Chat (13B) do Llama 2 da Meta no Amazon Bedrock. Os modelos do Llama 2 são grandes modelos de linguagem (LLM) de próxima geração fornecidos pela Meta. O Amazon Bedrock é um serviço totalmente gerenciado que fornece uma variedade de modelos de base de alta performance das principais empresas de IA, como a Meta, junto com um amplo conjunto de recursos que oferecem a maneira mais fácil de criar e escalar aplicações de IA generativa com modelos de base.
Com esse lançamento, o Amazon Bedrock é o primeiro serviço de nuvem pública a oferecer uma API totalmente gerenciada para o Llama 2. Agora, as organizações podem acessar o modelo Chat 13B do Llama 2 no Amazon Bedrock sem precisar gerenciar a infraestrutura subjacente, oferecendo ainda mais opções para o desenvolvimento de aplicações de IA generativa. O Llama Chat é otimizado para casos de uso de diálogo. Ele foi testado pela Meta para identificar lacunas de performance e mitigar respostas possivelmente problemáticas em casos de uso de chat, como respostas inadequadas. Agora, você pode integrar o modelo Chat 13B do Llama 2 a aplicações escritas em qualquer linguagem de programação chamando a API do Amazon Bedrock ou usando os AWS SDKs ou a AWS Command Line Interface (AWS CLI).
O modelo Chat 13B do Llama 2 da Meta no Amazon Bedrock está disponível em opções de throughput sob demanda e provisionado nas regiões da AWS Leste dos EUA (Norte da Virgínia) e Oeste dos EUA (Oregon). Para saber mais, leia o blog de lançamento nas notícias da AWS, a página de produto do Llama 2 no Amazon Bedrock e a documentação. Para começar a usar o Llama 2 no Amazon Bedrock, acesse o console do Amazon Bedrock.