Amazon SageMaker HyperPod теперь поддерживает запуск IDE и ноутбуков для ускорения разработки решений на основе ИИ
Amazon SageMaker HyperPod теперь поддерживает интегрированные среды разработки (IDE) и ноутбуки (Notebooks), что позволяет разработчикам ИИ запускать JupyterLab, редактор кода или подключать локальные IDE для выполнения интерактивных рабочих нагрузок ИИ непосредственно в кластерах HyperPod.
С этим релизом разработчики ИИ получают возможность запускать IDE и ноутбуки на тех же постоянных кластерах HyperPod EKS, которые используются для обучения моделей и вывода. Разработчики могут использовать масштабируемые ресурсы графических процессоров HyperPod, применяя привычные инструменты, такие как интерфейс командной строки HyperPod, и использовать одни и те же данные в IDE и задачах обучения через смонтированные файловые системы, такие как FSx и EFS. Решение поддерживает запуск нескольких IDE на одном экземпляре графического процессора, а также на одном графическом процессоре, благодаря доступной в HyperPod функции Multi-Instance GPU (MIG).
Чтобы обеспечить максимально эффективное использование ресурсов ЦП/ГП, администраторы могут использовать функцию управления задачами HyperPod для унифицированного управления рабочими нагрузками IDE, обучения и вывода. Оптимизировать использование кластера и эффективно управлять затратами администраторам помогает функция наблюдаемости HyperPod, предоставляющая исчерпывающий набор метрик использования, включая потребление ресурсов ЦПУ, графического процессора и памяти.
Функция доступна во всех регионах AWS, где в данный момент предоставляется Amazon SageMaker HyperPod, за исключением регионов Китая и GovCloud (США). Подробнее см. в нашей документации.