Инстансы Amazon EC2 типа G6e теперь доступны в сеульском регионе
С сегодняшнего дня инстансы Amazon EC2 типа G6e на базе графических процессоров NVIDIA L40S Tensor Core доступны в Азиатско-Тихоокеанском регионе (Сеул). Инстансы G6e подходят для широкого спектра вариантов использования в сфере машинного обучения и пространственных вычислений.
Клиенты могут использовать инстансы G6e для развертывания больших языковых моделей (LLM) с параметрами размером до 13B, а также диффузионных моделей для создания изображений, видео и звука. Кроме того, инстансы G6e позволят клиентам создавать более масштабные трехмерные симуляции и цифровые двойники для рабочих нагрузок пространственных вычислений. Инстансы G6e поддерживают до восьми графических процессоров NVIDIA L40S Tensor Core и по 48 ГБ памяти на каждый процессор, а также центральные процессоры AMD EPYC третьего поколения. Они поддерживают до 192 виртуальных процессоров, пропускную способность сети до 400 Гбит/с, системную память объемом до 1,536 ТБ и локальные накопители NVMe SSD емкостью до 7,6 ТБ. Разработчики могут запускать на инстансах G6e рабочие нагрузки логического вывода на основе искусственного интеллекта, используя AMI-образы и контейнеры Глубокого обучения AWS или управляемые сервисы, такие как Эластичный сервис Amazon Kubernetes (Amazon EKS), Пакет AWS и Amazon SageMaker.
Инстансы Amazon EC2 типа G6e на сегодняшний день доступны в следующих регионах AWS: Восток США (Северная Вирджиния, Огайо), Запад США (Орегон), Азиатско-Тихоокеанский регион (Токио, Сеул) и Европа (Франкфурт, Испания, Стокгольм). Клиенты могут приобретать G6e в качестве инстансов по требованию, зарезервированных, спотовых инстансов или в рамках Экономичных планов.
Чтобы начать работу, воспользуйтесь Консолью управления AWS, интерфейсом командной строки AWS (AWS CLI) и пакетами AWS SDK. Подробнее см. на странице инстансов G6e.