Publicado en: Jul 18, 2023
A partir de hoy, los modelos básicos de Llama 2 de Meta estarán disponibles en Amazon SageMaker JumpStart, un centro de machine learning (ML) que ofrece modelos preentrenados, algoritmos integrados y soluciones prediseñadas que lo ayudan a comenzar rápidamente con el ML. Puede implementar y usar los modelos básicos Llama 2 con unos pocos clics en SageMaker Studio o mediante programación a través del SDK de Python en SageMaker.
Llama 2 es un modelo de lenguaje autorregresivo que utiliza una arquitectura de transformadores optimizada. Viene en una variedad de tamaños de parámetros (7B, 13B y 70B), así como en variaciones preentrenadas y ajustadas. Las versiones ajustadas utilizan el ajuste fino supervisado (SFT) y el aprendizaje por refuerzo con retroalimentación humana (RLHF) para generar respuestas más relevantes. Los desarrolladores pueden aprovechar la Guía de uso responsable de Meta, que describe las prácticas recomendadas para crear de manera responsable cada capa de un producto de GenAI, y comprender la importancia de abordar los riesgos asociados con el uso comercial de los LLM.
Ahora puede obtener las ventajas combinadas del rendimiento de Llama 2 y los controles MLOps con las características de SageMaker, como canalizaciones de SageMaker, el depurador de SageMaker o los registros de contenedores. El modelo se implementará en un entorno seguro de AWS bajo los controles de su VPC, lo que ayudará a garantizar la seguridad de los datos. Llama 2 está diseñado para uso comercial y de investigación en inglés. Los modelos ajustados están diseñados para una conversación similar a la de un asistente, mientras que los modelos previamente entrenados se pueden adaptar para una variedad de tareas de generación de lenguaje natural.
Los modelos base Llama 2 ya están disponibles en SageMaker JumpStart, inicialmente en las regiones us-east 1 y us-west 2. Actualice su entorno de SageMaker Studio a la versión más reciente para descubrir estos modelos. Para empezar a usar los modelos básicos de Llama 2 a través de SageMaker JumpStart, consulte la documentación y el blog.