Amazon SageMaker AI anuncia las API de las sesiones de entrenamiento para la personalización de modelos sin servidor
La personalización del modelo sin servidor de Amazon SageMaker AI ahora admite las API de las sesiones de entrenamiento, lo que brinda a los clientes un control total sobre su algoritmo posterior al entrenamiento sin necesidad de aprovisionar ni administrar la infraestructura de GPU. Las técnicas administradas, que incluyen SFT, DPO y otros métodos de aprendizaje por refuerzo, permiten a los clientes elegir una técnica y un modelo y hacer que SageMaker AI ejecute el entrenamiento. Con las API de las sesiones de entrenamiento, los equipos pueden escribir el ciclo de entrenamiento, ya sea reproduciendo SFT o DPO según sus propios términos o implementando una pérdida personalizada, una nueva señal de recompensa de RL, un plan de estudios de datos o un algoritmo basado directamente en las últimas investigaciones. Las operaciones como forward_backward (), optim_step () y sample () se convierten en llamadas a la API contra una sesión activa y con estado, por lo que los clientes crean cualquier procedimiento de entrenamiento que requiera su técnica, mientras que SageMaker AI gestiona la asignación de GPU, la carga de modelos y la adaptación de rango bajo (LoRA), la ejecución distribuida, la recuperación de errores, el almacenamiento en puntos de control y la seguridad.
Los clientes pueden llamar a estas operaciones directamente desde su propio código de Python para impulsar el aprendizaje por refuerzo, el refinamiento supervisado o los objetivos de entrenamiento personalizados en una sesión en vivo, con puntos de control y currículum integrados. La facturación se realiza por token procesado, por lo que los cálculos locales, como la puntuación de recompensas, no se facturan como tiempo de GPU. SageMaker AI también está publicando el recetario de sesiones de entrenamiento de SageMaker, un conjunto de recetas de SFT y RL listas para usar que los clientes pueden usar como esquemas para sus propios ciclos de entrenamiento.
Hoy en día, las API de las sesiones de entrenamiento están disponibles a nivel en el este de EE. UU. (norte de Virginia), oeste de EE. UU. (Oregón) y Asia-Pacífico (Bombay). Para empezar, instale el SDK de Python de SageMaker y clone el recetario, o inicie un cuaderno en SageMaker Studio y conecte un agente de codificación. Para obtener más información, visite la página web de documentación y Amazon SageMaker AI.