Amazon SageMaker AI представляет интерфейс Training session API для бессерверной настройки моделей
Функция бессерверной настройки моделей в Amazon SageMaker AI теперь поддерживает интерфейс обучения Training session API, что дает клиенту полный контроль над алгоритмом пост-обучения без необходимости выделения инфраструктуры графического процессора или управления ею. Настраиваемые методики обучения, включающие SFT, DPO и другие методы обучения с подкреплением, позволяют клиентам выбрать модель и метод, а само обучение проводит SageMaker AI. API-интерфейсы Training session позволяют команде самостоятельно составить цикл обучения, будь то воспроизведение SFT или DPO на своих условиях или внедрение пользовательской функции потери, нового сигнала подкрепления (RL), учебного плана или алгоритма на основе последних исследований. Такие операции, как forward_backward(), optim_step() и sample(), действуют как вызовы API во время сессий с сохранением состояния в реальном времени. Таким образом, заказчик может составить любую необходимую ему процедуру обучения, а SageMaker AI отвечает за распределение графических процессоров, загрузку моделей и LoRA, распределенное выполнение, восстановление после сбоев, хранение контрольных точек и безопасность.
Клиенты могут вызывать эти операции непосредственно из собственного кода Python, чтобы осуществлять обучение с подкреплением, контролируемую точную настройку или адаптировать цели обучения, в режиме реального времени с автоматическими контрольными точками и резюме. Плата производится за каждый обработанный токен, поэтому локальные вычисления, например начисление вознаграждений, не учитываются как время работы графического процессора. SageMaker AI также выпускает Поваренную книгу SageMaker для учебных сессий – набор готовых «рецептов» SFT и RL, которые клиенты могут использовать как основу для подготовки собственных циклов обучения.
Интерфейсы Training session API общедоступны в следующих регионах AWS: Восток США (Северная Вирджиния), Запад США (Орегон) и Азиатско-Тихоокеанский регион (Мумбаи). Для начала работы установите SageMaker Python SDK и клонируйте «поваренную книгу» или запустите блокнот в Студии SageMaker и подключите агент для разработки кода. Подробнее см. документацию и веб-страницу Amazon SageMaker AI.