Publicado en: Jun 9, 2023
A partir de hoy, el modelo básico Falcon 40B de última generación del TII (Technology Innovation Institute) está disponible en Amazon SageMaker JumpStart, el centro de machine learning (ML) de SageMaker que ofrece modelos preentrenados, algoritmos integrados y plantillas de soluciones prediseñadas que lo ayudan a empezar rápidamente con esta tecnología. Puede implementar y utilizar este LLM Falcon con unos pocos clics en SageMaker Studio o mediante programación con el SDK de Python en SageMaker.
Falcon 40B es un modelo de lenguaje de gran tamaño (LLM) con 40 000 millones de parámetros, disponible con la licencia Apache 2.0. Ocupó el puesto N.º 1 en la clasificación Hugging Face Open LLM, que rastrea, clasifica y evalúa los LLM según varios puntos de referencia para identificar los modelos con mejor rendimiento. Desde su lanzamiento en mayo de 2023, Falcon 40B ha demostrado un rendimiento excepcional sin ajustes especializados. Para facilitar a los clientes el acceso a este modelo de última generación, AWS lo ha puesto a disposición de los clientes a través de Amazon SageMaker JumpStart. Ahora los clientes pueden implementar rápida y fácilmente su propio modelo Falcon 40B y personalizarlo para que se ajuste a sus necesidades específicas para aplicaciones como la traducción, la respuesta a preguntas y el resumen de información.
El modelo Falcon 40B ya está disponible de forma general a través de Amazon SageMaker JumpStart en las regiones Este de EE. UU. (Ohio), Este de EE. UU. (Norte de Virginia), Oeste de EE. UU. (Oregón), Asia-Pacífico (Tokio), Asia-Pacífico (Seúl), Asia-Pacífico (Bombay), Europa (Londres), Europa (Fráncfort), Europa (Irlanda), Canadá (centro) y próximamente estará disponible en otras regiones de AWS. Para aprender a utilizar esta nueva característica, consulte la documentación de SageMaker JumpStart, el cuaderno de ejemplo Introduction to SageMaker JumpStart – Text Generation with Falcon LLMs y la publicación del blog Technology Innovation Institute trains the state-of-the-art Falcon LLM 40B foundation model on Amazon SageMaker.