Логический вывод в Amazon SageMaker теперь поддерживает последовательное обновление адресов для компонентов логического вывода
Логический вывод в Amazon SageMaker теперь поддерживает последовательное обновление адресов для компонентов логического вывода. Это позволяет клиентам обновлять уже работающие адреса компонентов, не затрагивая трафик и используя минимальное число дополнительных инстансов, а не удваивая их, как раньше. Логический вывод SageMaker упрощает развертывание моделей машинного обучения, включая базовые модели (FM). Одной из возможностей вывода SageMaker являются компоненты логического вывода, которые позволяют клиентам развертывать несколько FM с одним адресом и контролировать распределение ускорителей для каждой модели.
Последовательное обновление теперь позволяет клиентам обновлять компоненты на определенном адресе в пакетном режиме, а не все сразу, как в использовавшемся ранее методе обновления без перерыва в обслуживании. Обновление без перерыва в обслуживании требовало выделения нового парка компонентов логического вывода с обновленной моделью, а затем переноса трафика со старого парка на новый, из-за чего в сущности было необходимо удваивать число инстансов. При последовательных обновлениях новые компоненты логического вывода создаются пакетно в меньшем количестве, что значительно сокращает число дополнительных инстансов, необходимое при обновлении. Это помогает клиентам минимизировать затраты, связанные с дополнительными ресурсами, и поддерживать меньший буфер при резервировании вместимости.
Последовательное обновление компонентов логического вывода доступно во всех регионах, где поддерживаются эти компоненты: Азиатско-Тихоокеанский регион (Токио, Сеул, Мумбаи, Сингапур, Сидней, Джакарта), Канада (Центральная), Европа (Франкфурт, Стокгольм, Ирландия, Лондон), Ближний Восток (ОАЭ), Южная Америка (Сан-Паулу), Восток США (Северная Вирджиния, Огайо) и Запад США (Северная Калифорния, Орегон). Подробнее см. в документации.