Объявление о региональном расширении для инстансов G6 в SageMaker AI Inference
Мы рады объявить о доступности инстансов Amazon EC2 G6 в регионе AWS GovCloud (США – восток) на основе логического вывода Amazon SageMaker AI. Инстансы G6 оснащены максимум 8 графическими процессорами NVIDIA L4 Tensor Core, каждый из которых имеет 24 ГБ памяти, и процессорами AMD EPYC третьего поколения, которые обеспечивают максимум в 2 раза большую производительность логического вывода глубокого обучения по сравнению с инстансами G4dn.
По мере расширения региона государственные учреждения и организации, работающие в GovCloud, могут развертывать адреса логического вывода на инстансах G6 для обслуживания рабочих нагрузок генеративного искусственного интеллекта, включая малые и средние языковые модели, генерацию изображений и задачи компьютерного зрения, при соблюдении строгих требований и требований к локализации данных. Инстансы G6 обеспечивают высокое соотношение цены и эффективности для рабочих нагрузок производственного логического вывода, которые укладываются в 24 ГБ памяти графического процессора.
Инстансы G6 для логического вывода SageMaker AI теперь доступны в AWS GovCloud (США – восток) в дополнение к ранее поддерживаемым регионам. Сведения о стоимости этих инстансов см. на нашей странице цен.