Amazon SageMaker HyperPod ускоряет развертывание моделей с открытыми весами

Проведено: 10 июля 2025 г.

Теперь непосредственно в Amazon SageMaker HyperPod можно развертывать как базовые модели с открытыми весами из Amazon SageMaker JumpStart, так и собственные настроенные модели из Amazon S3 и Amazon FSx. Это позволяет легко обучать, настраивать и развертывать модели на одних и тех же вычислительных ресурсах HyperPod, максимально эффективно используя их на протяжении всего жизненного цикла модели.

Всего за несколько простых шагов можно выбрать базовую модель с открытыми весами в SageMaker JumpStart и быстро развернуть ее в кластере SageMaker HyperPod. SageMaker автоматически выделяет инфраструктуру, развертывает модель в кластере, обеспечивает автоматическое масштабирование и настраивает адрес SageMaker. По мере изменения трафика на адресах модели SageMaker масштабирует вычислительные ресурсы в нужном направлении с помощью функции управления задачами HyperPod и автоматически публикует метрики на панели наблюдаемости HyperPod для обеспечения полного представления о производительности модели.

Развертывание моделей SageMaker JumpStart доступно во всех регионах AWS, где поддерживается HyperPod: Восток США (Северная Вирджиния), Запад США (Северная Калифорния, Орегон), Азиатско-Тихоокеанский регион (Мумбаи, Сингапур, Сидней, Токио), Европа (Франкфурт, Ирландия, Лондон, Стокгольм) и Южная Америка (Сан-Паулу).

Подробнее см. на веб-странице SageMaker HyperPod, в блоге и документации.