Блокноты Студии Amazon SageMaker теперь поддерживают инстансы типа G6e
Мы рады объявить о том, что инстансы Amazon EC2 типа G6e теперь являются общедоступными для блокнотов Студии SageMaker.
Инстансы Amazon EC2 типа G6e работают на базе восьми графических процессоров NVIDIA L40s Tensor Core с 48 ГБ памяти на каждый и процессоров AMD EPYC третьего поколения. Производительность инстансов G6e может быть в 2,5 раза выше, чем у инстансов EC2 типа G5. Клиенты могут использовать инстансы G6e для интерактивного тестирования развертывания моделей и для их интерактивного обучения, например для настройки генеративного искусственного интеллекта. Инстансы G6e позволяют развертывать большие языковые модели (LLM) с размером параметров до 13B, а также диффузионные модели для создания изображений, видео и звука.
Инстансы Amazon EC2 типа G6e доступны для блокнотов Студии SageMaker в следующих регионах AWS: Восток США (Северная Вирджиния и Огайо) и Запад США (Орегон).
Инструкции по настройке и эксплуатации приложений JupyterLab и CodeEditor в Студии SageMaker см. в руководствах для разработчиков.