Пакетное преобразование Amazon SageMaker AI теперь поддерживает инстансы G6e
Amazon SageMaker AI теперь поддерживает инстансы Amazon EC2 G6e для пакетного преобразования. Пакетное преобразование позволяет выполнять прогнозы для наборов данных, хранящихся в Amazon S3. Оно подходит для больших наборов данных, для которых не требуется постоянный адрес вывода.
Инстансы Amazon EC2 G6e работают на базе восьми графических процессоров NVIDIA L40S Tensor Core с 48 ГБ памяти на каждый и процессоров AMD EPYC третьего поколения. Инстансы G6e обеспечивают повышенную производительность рабочих нагрузок, интенсивно использующих графический процессор. Благодаря этому обновлению вы сможете использовать инстансы G6e для рабочих нагрузок автономного вывода с интенсивным использованием графического процессора, включая большие языковые модели и диффузионные модели, генерирующие изображения, видео и аудио. Для начала работы выберите поддерживаемый тип инстанса ml.g6e при создании задания пакетного преобразования с помощью пакета SDK AWS, интерфейса командной строки AWS или API CreateTransformJob.
Поддержка пакетного преобразования G6e доступна в следующих регионах: Восток США (Огайо, Северная Вирджиния), Запад США (Орегон), Азиатско-Тихоокеанский регион (Мумбаи, Хайдарабад). Чтобы узнать больше, посетите страницу продукта Amazon SageMaker AI и ознакомьтесь с документацией по пакетному преобразованию. Сведения о стоимости этих инстансов см. на нашей странице цен.