SageMaker HyperPod теперь поддерживает планирование задач LLM с учетом топологии

Проведено: 14 авг. 2025 г.

Управление задачами SageMaker HyperPod теперь поддерживает планирование с учетом топологии (TAS), что позволяет специалистам по обработке данных планировать задания своих больших языковых моделей (LLM) с использованием оптимальной топологии сети, которая минимизирует передачу данных через сеть и повышает эффективность обучения.

Задачи обучения и настройки LLM, распределяемые между разными вычислительными инстансам с ускорением, часто обмениваются между собой большими объемами данных. Многочисленные сетевые переходы между инстансами могут приводить к увеличению задержки связи и ухудшать производительность задач LLM. Управление задачами SageMaker HyperPod теперь позволяет специалистам по обработке данных использовать информацию о топологии сети при планировании задач и задавать определенные топологические предпочтения. Используя топологию сети в HyperPod, система управления задачами SageMaker HyperPod автоматически планирует выполнение задач на оптимально подходящих для этого ресурсах, сокращая передачу данных между инстансами и повышая эффективность обучения.

Управление задачами SageMaker HyperPod доступно во всех регионах AWS, где предлагается HyperPod: Запад США (Северная Калифорния, Орегон), Азиатско-Тихоокеанский регион (Сингапур, Сидней) и Европа (Франкфурт, Ирландия, Стокгольм).

Дополнительные сведения см. на веб-странице SageMaker HyperPod и в документацию по управлению задачами SageMaker HyperPod.