Amazon SageMaker AI annonce des sessions de formation sur les API pour la personnalisation des modèles sans serveur
La personnalisation du modèle sans serveur Amazon SageMaker AI prend désormais en charge les API des sessions de formation, ce qui permet aux clients de contrôler totalement leur algorithme après entraînement sans provisionner ni gérer l’infrastructure GPU. Les techniques gérées, notamment le SFT, le DPO et d’autres méthodes d’apprentissage par renforcement, permettent aux clients de choisir une technique et un modèle, et de confier la formation à SageMaker AI. Grâce aux API des sessions de formation, les équipes peuvent écrire la boucle d’entraînement, qu’il s’agisse de reproduire le SFT ou le DPO selon leurs propres conditions ou de mettre en œuvre une perte personnalisée, un nouveau signal de récompense RL, un curriculum de données ou un algorithme directement issu des dernières recherches. Les opérations telles que forward_backward(), optim_step() et sample() deviennent des appels d’API dans le cadre d’une session dynamique avec état. Les clients élaborent donc la procédure de formation requise pour leur technique tandis que SageMaker AI gère l’allocation des GPU, le chargement des modèles et LoRA, l’exécution distribuée, la restauration des pannes, le stockage des points de contrôle et la sécurité.
Les clients peuvent lancer ces opérations directement à partir de leur propre code Python pour favoriser l’apprentissage par renforcement, les ajustements supervisés ou les objectifs d’entraînement personnalisés par rapport à une session en direct, avec des points de contrôle et un CV intégrés. La facturation se fait par jeton traité, de sorte que les calculs locaux tels que le score des récompenses ne sont pas facturés en temps GPU. SageMaker AI publie également le livre de recettes des sessions de formation SageMaker, un ensemble de recettes SFT et RL prêtes à l’emploi que les clients peuvent utiliser comme modèles pour leurs propres boucles d’entraînement.
Les API des sessions de formation sont généralement disponibles aujourd’hui dans les régions USA Est (Virginie du Nord), USA Ouest (Oregon) et Asie-Pacifique (Mumbai). Pour commencer, installez le kit SDK Python de SageMaker et clonez le livre de recettes, ou lancez un bloc-notes dans SageMaker Studio et connectez un agent de codage. Pour en savoir plus, consultez la documentation et la page Web d’Amazon SageMaker AI.