Amazon SageMaker AI ahora admite listas de preferencias de instancias para trabajos de entrenamiento y procesamiento
Amazon SageMaker AI anuncia hoy las listas de preferencias de instancias para los trabajos de entrenamiento y procesamiento, lo que facilita y agiliza la búsqueda de capacidad de computación para sus cargas de trabajo. Muchas cargas de trabajo de entrenamiento, refinamiento y procesamiento de datos de IA ofrecen un rendimiento similar en varios tipos o tamaños de instancias. Sin embargo, hasta ahora, usted tenía que especificar un único tipo de instancia al enviar el trabajo y esperar a que SageMaker encontrara esa instancia específica para su trabajo. En el caso de las GPU de alta demanda durante los períodos de mayor uso, en los que los tiempos de espera pueden ser impredecibles, los clientes a veces tenían que crear una lógica de reintento compleja o enviar simultáneamente varios trabajos con diferentes tipos de instancias para encontrar la primera opción disponible. Ahora solo tiene que proporcionar una lista priorizada de los tipos de instancias que acepta su carga de trabajo y SageMaker ejecutará automáticamente el trabajo en la primera configuración disponible según sus preferencias. Con esta solución, es probable que su trabajo de entrenamiento o procesamiento comience antes.
Para usar esta característica, debe especificar sus preferencias de tipo y cantidad de instancias en orden de prioridad al enviar el trabajo de entrenamiento o procesamiento. Por ejemplo, la lista puede contener una preferencia de dos instancias de ml.g6.48xlarge o cuatro instancias de ml.g5.48xlarge. SageMaker revisa la lista y ejecuta el trabajo en la primera configuración en la que hay capacidad disponible. También puede configurar el origen de la capacidad a partir de orígenes bajo demanda o desde sus planes de entrenamiento flexibles de SageMaker reservados dentro del mismo envío de trabajo. Esta característica simplifica el proceso de obtener capacidad de computación para sus trabajos durante los períodos de alta demanda y reduce la necesidad de realizar manualmente reiterados intentos no diferenciados, todo ello dentro de las API de trabajos de procesamiento y entrenamiento de SageMaker que ya utiliza.
Las listas de preferencias de instancias para los trabajos de entrenamiento y procesamiento de SageMaker están disponibles hoy en todas las regiones de AWS en las que SageMaker está disponible a través de las CLI, las API, los SDK y la interfaz de usuario de la consola de SageMaker. Para obtener más información, consulte nuestra documentación o nuestro blog de lanzamiento.