Las bases de conocimiento de Amazon Bedrock ahora son compatibles con Llama 3.1 405B, 70B y 8B

Publicado en: 29 de ago de 2024

Las bases de conocimiento para Amazon Bedrock conectan de forma segura los modelos fundacionales (FM) con los orígenes de datos internos de la empresa para la generación aumentada por recuperación (RAG) a fin de ofrecer respuestas relevantes, precisas y contextuales. La familia de modelos fundacionales Llama 3.1 de Meta (405B, 70B y 8B) ya está disponible de forma general en las bases de conocimiento.

Llama 3.1 es la próxima generación de modelos de última generación de Meta, que admite 128 000 tokens (aproximadamente 96 000 palabras o 192 páginas de material) de longitud contextual. Los modelos de Llama 3.1 son ideales para tareas que requieren un razonamiento complejo, resultados rápidos y RAG. Llama 3.1 es compatible con la API RetrieveAndGenerate completamente administrada.

Las bases de conocimiento de Amazon Bedrock en los modelos Llama 3.1 405B, 70B y 8B ya están disponibles de forma general en la región de AWS del oeste de EE. UU. (Oregón). Para obtener más información, lea el lanzamiento del blog de noticias de AWS y visite la página Meta Llama en Amazon Bedrock. Para empezar, consulte la documentación de las bases de conocimiento de Amazon Bedrock y visite la consola de Amazon Bedrock.