Серверы Amazon P6e-GB200 UltraServers с самой высокой производительностью GPU в EC2
Сегодня Amazon объявляет о появлении общедоступных серверов Amazon Elastic Compute Cloud (Amazon EC2) типа P6e-GB200 UltraServers на базе NVIDIA GB200 NVL72. Amazon EC2 P6e-GB200 UltraServers обеспечивают самую высокую производительность ИИ-обучения и логического вывода на основе графических процессоров (GPU) в EC2. Они предназначены для ускорения обучения и логического вывода в базовых моделях (FM) и предоставляют возможности нового поколения, например модели с функциями рассуждения и агентный ИИ с масштабом в триллионы параметров.
P6e-GB200 UltraServers позволяют клиентам использовать до 72 графических процессоров Blackwell в одном домене NVLink с 360 петафлопс вычислительных ресурсов формата FP8 (без разреженности), 13,4 ТБ памяти с высокой пропускной способностью (HBM3e) и сеть на основе Интерфейса эластичной матрицы (EFAv4) со скоростью до 28,8 Тбит/с. P6e-GB200 UltraServers в EC2 работают на базе AWS Nitro System, давая клиентам возможность надежно и безопасно масштабировать рабочие нагрузки ИИ в EC2 UltraClusters до десятков тысяч GPU.
P6e-GB200 UltraServers теперь доступны в рамках блоков ресурсов Amazon EC2 для ML в локальной зоне Далласа (us-east-1-dfw-2a) как расширении региона «Восток США (Северная Вирджиния)». P6e-GB200 UltraServers доступны в двух вариантах: u-p6e-gb200x72 (72 графических процессора в NVLink) и u-p6e-gb200x36 (36 графических процессоров в NVLink).
Дополнительные сведения см. в статье Инстансы Amazon EC2 типа P6e-GB200 UltraServers и P6-B200.