La característica Transformación por lotes de Amazon SageMaker AI ahora admite las instancias G6e
Amazon SageMaker AI ahora admite las instancias G6e de Amazon EC2 para la transformación por lotes. La característica Transformación por lotes le permite ejecutar predicciones en conjuntos de datos almacenados en Amazon S3. Además, es adecuada para conjuntos de datos de gran tamaño que no requieren un punto de conexión de inferencia persistente.
Las instancias G6e de Amazon EC2 cuentan con hasta ocho GPU NVIDIA L40S Tensor Core con 48 GB de memoria por GPU y procesadores EPYC de AMD de tercera generación. Las instancias G6e ofrecen un rendimiento mejorado para las cargas de trabajo con uso intensivo de la GPU. Con este lanzamiento, puede utilizar instancias G6e para cargas de trabajo de inferencia sin conexión que requieren un uso intensivo de GPU, incluidos modelos de lenguaje de gran tamaño (LLM) y modelos de difusión para generar imágenes, videos y audio. Para empezar, seleccione un tipo de instancia ml.g6e compatible al crear un trabajo de transformación por lotes mediante los SDK de AWS, AWS CLI o la API CreateTransformJob.
La compatibilidad de las instancias G6e con la característica Transformación por lotes está disponible en las regiones de AWS este de EE. UU. (norte de Virginia), este de EE. UU. (Ohio), oeste de EE. UU. (Oregón), Asia-Pacífico (Mumbai) y Asia-Pacífico (Hyderabad). Para obtener más información, visite la página del producto Amazon SageMaker AI y consulte la documentación sobre la transformación por lotes. Para obtener información sobre los precios de estas instancias, consulte nuestra página de precios.