Los modelos de IA generativa de Meta Llama 3.1 ya están disponibles en Amazon SageMaker JumpStart

Publicado en: 23 de jul de 2024

Los modelos de Meta Llama más avanzados y útiles hasta la fecha, Llama 3.1, ya están disponibles en Amazon SageMaker JumpStart, un centro de machine learning (ML) que ofrece modelos previamente entrenados y algoritmos integrados que lo ayudan a comenzar rápidamente con esta tecnología. Puede implementar y usar los modelos Llama 3.1 con unos pocos clics en SageMaker Studio o mediante programación a través del SDK de Python en SageMaker.

Los modelos Llama 3.1 muestran mejoras significativas con respecto a las versiones anteriores debido al aumento de los datos de entrenamiento y la escala. Los modelos admiten una longitud de contexto de 128 000, lo que representa un aumento de 120 000 fichas con respecto a Llama 3. Los modelos Llama 3.1 tienen 16 veces más capacidad que los modelos Llama 3 y han mejorado el razonamiento para casos de uso de diálogo multilingüe en ocho idiomas. Además, pueden acceder a más información a partir de pasajes de texto extensos para tomar decisiones más informadas y aprovechar datos contextuales más completos para generar respuestas más sofisticadas. Según Meta, Llama 3.1 405B es uno de los modelos fundacionales más grandes disponibles al público y es adecuado para la generación de datos sintéticos y la destilación de modelos, capacidades que pueden mejorar los modelos Llama más pequeños. Para usar datos sintéticos para ajustar los modelos, debe cumplir con la licencia de Meta. Lea el Acuerdo de licencia de usuario final (EULA) para obtener información adicional. Todos los modelos Llama 3.1 ofrecen capacidades de última generación en conocimientos generales, matemáticas, uso de herramientas y traducción multilingüe.

Los modelos Llama 3.1 ya están disponibles en SageMaker JumpStart en las regiones de AWS Este de EE. UU. (Ohio), Oeste de EE. UU. (Oregón) y Este de EE. UU. (Norte de Virginia). Para empezar a usar los modelos Llama 3.1 en SageMaker JumpStart, consulte la documentación y el blog.