Publicado en: Nov 26, 2023
Amazon Redshift mejora Redshift ML para admitir modelos de lenguaje de gran tamaño (LLM). Amazon Redshift ML permite a los clientes crear, entrenar e implementar modelos de machine learning mediante comandos SQL conocidos. Ahora, puede aprovechar los LLM previamente entrenados disponibles públicamente en Amazon SageMaker JumpStart como parte de Redshift ML. De esta manera, puede llevar la utilidad de los LLM a los análisis. Por ejemplo, puede hacer inferencias sobre los datos de los comentarios de sus productos en Amazon Redshift, utilizar los LLM para resumirlos, realizar la extracción de entidades, el análisis de opiniones y la clasificación de los comentarios sobre los productos.
Para utilizar esta característica, debe crear un punto de conexión para un LLM en Amazon SageMaker JumpStart. Puede aprovechar los modelos predefinidos listos para usar o entrenar un modelo personalizado en Amazon Sagemaker JumpStart con sus propios datos y, luego, utilizar el punto de conexión del modelo para realizar inferencias remotas en sus datos de Redshift mediante Redshift ML. Para utilizar las inferencias de LLM, el tipo de datos de entrada y salida debe ser SUPER. No hay costos adicionales asociados al uso de LLM con Amazon Redshift ML. Consulte la página de precios de Amazon SageMaker para obtener más información.
La mejora de Amazon Redshift ML para el soporte de LLM ya está disponible en versión preliminar en las regiones de AWS Este de EE. UU. (Norte de Virginia), Oeste de EE. UU. (Oregón), Este de EE. UU. (Ohio), Oeste de Europa (Irlanda), Norte de Europa (Estocolmo) y Noreste de Asia-Pacífico (Tokio). Para comenzar y obtener más información, consulte la guía para desarrolladores de bases de datos de Amazon Redshift.