Amazon SageMaker AI теперь поддерживает инстансы P6e-GB200 UltraServers
Сегодня Amazon SageMaker AI объявляет о поддержке инстансов P6e-GB200 UltraServers в SageMaker HyperPod и задач обучения. С помощью P6e-GB200 UltraServers вы можете использовать до 72 графических процессоров NVIDIA Blackwell в одном домене NVLink для ускорения обучения и развертывания базовых моделей в масштабе триллиона параметров. Конфигурации P6e-GB200 UltraServer доступны в двух размерах: ml.u-p6e-gb200x72 (72 графических процессора в NVLink) и ml.u-p6e-gb200x36 (36 графических процессоров в NVLink).
Инстансы P6e-GB200 UltraServers обеспечивают более чем в 20 раз больший объем вычислительных ресурсов и более чем в 11 раз больший объем памяти под управлением одного NVIDIA NVLink по сравнению с инстансами P5en. В каждом домене NVLink можно использовать вычислительные ресурсы FP8 объемом 360 петафлопс (без учета разреженности) и 13,4 ТБ общей памяти с высокой пропускной способностью (HBM3e). Используя инстансы P6e-GB200 UltraServers в SageMaker AI, вы получаете превосходную производительность GB200 в сочетании с управляемой инфраструктурой SageMaker, обеспечивающей такие возможности как безопасность, встроенная отказоустойчивость, планирование с учетом топологии (SageMaker HyperPod EKS и Slurm), интегрированные возможности мониторинга и встроенная интеграция с другими сервисами SageMaker AI и AWS.
Инстансы UltraServers доступны в рамках гибких планов обучения SageMaker в местной зоне Далласа (us-east-1-dfw-2a), являющейся продолжением региона AWS «Восток США (Северная Вирджиния)». Чтобы забронировать по требованию инстансы GB200 UltraServers, обратитесь к своему менеджеру по работе с клиентами. Amazon SageMaker AI позволяет легко обучать и развертывать модели машинного обучения любого масштаба, используя полностью управляемую инфраструктуру с оптимальной стоимостью и производительностью. Чтобы начать работу с UltraServers в SageMaker AI, ознакомьтесь с документацией.