Amazon SageMaker HyperPod acelera la implementación de modelo de pesos abiertos
Amazon SageMaker HyperPod ahora admite la implementación de modelos fundacionales de pesos abiertos de Amazon SageMaker JumpStart y sus propios modelos refinados de Amazon S3 y Amazon FSx directamente en Amazon SageMaker HyperPod. Esto le permite entrenar, refinar e implementar modelos sin problemas en los mismos recursos de computación de HyperPod. Así, se maximiza la utilización de los recursos durante todo el ciclo de vida del modelo.
En unos pocos pasos, puede elegir un modelo fundacional de pesos abiertos de SageMaker JumpStart e implementarlo rápidamente en su clúster de SageMaker HyperPod. SageMaker aprovisiona automáticamente la infraestructura, implementa el modelo en su clúster, habilita el escalado automático y configura el punto de conexión de SageMaker. SageMaker amplía y reduce los recursos de computación mediante la gobernanza de tareas de HyperPod a medida que cambia el tráfico en los puntos de conexión del modelo, y publica automáticamente las métricas en el panel de observabilidad de HyperPod para ofrecer una visibilidad completa del rendimiento del modelo.
Puede implementar modelos de SageMaker JumpStart en todas las regiones de AWS en las que HyperPod está disponible: este de EE. UU. (norte de Virginia), oeste de EE. UU. (norte de California), Asia-Pacífico (Mumbai), Asia-Pacífico (Singapur), Asia-Pacífico (Sídney) y Asia-Pacífico (Tokio), Europa (Fráncfort), Europa (Irlanda), Europa (Londres), Europa (Estocolmo) y América del Sur (São Paulo).
Para obtener más información, visite la página web, el blog y la documentación de SageMaker HyperPod.