Amazon SageMaker AI prend désormais en charge des longueurs de séquence personnalisées pour les tâches de personnalisation de modèles sans serveur
Amazon SageMaker AI annonce aujourd’hui la possibilité de configurer la longueur de séquence utilisée lors de votre tâche de personnalisation de modèles sans serveur. La personnalisation des modèles sans serveur Amazon SageMaker AI permet de régler avec précision de nombreux modèles libres, y compris des modèles de familles populaires telles que gpt-oss, Gemma, Llama, Nemotron et Qwen. Auparavant, chaque protocole de peaufinage était exécuté selon une durée de séquence fixe que les clients ne pouvaient pas modifier. Les clients doivent parfois modifier ces paramètres pour obtenir de meilleurs résultats pour leur cas d’utilisation. Les clients ont également demandé des longueurs de séquence plus longues que les valeurs statiques par défaut que nous prenions en charge sur certains modèles.
Vous pouvez désormais définir les paramètres de longueur de séquence dans le cadre des hyperparamètres de la tâche de personnalisation, n’importe où, jusqu’au maximum publié pour le modèle et la technique que vous avez choisis. Vous pouvez définir l’hyperparamètre dataset_max_len pour les tâches SFT et DPO, ou définir les hyperparamètres max_prompt_length et max_response_length pour les tâches RFT. Cela vous donne plus de contrôle pour faire correspondre les caractéristiques de vos données d’entraînement, que vous travailliez avec de courtes paires questions-réponses ou des documents de plusieurs pages. Les maximums publiés vont jusqu’à 16 000 jetons pour de nombreux modèles, en fonction du modèle et de la technique.
La personnalisation du modèle sans serveur sur SageMaker AI est disponible dans les Régions USA Est (Virginie du Nord), USA Ouest (Oregon), Asie-Pacifique (Tokyo) et Europe (Irlande). Pour commencer, rendez-vous sur la page Modèles d’Amazon SageMaker Studio pour lancer une tâche de personnalisation, utilisez le kit SDK Python SageMaker, ou utilisez nos compétences d’agent avec l’assistant de codage de votre choix. Pour en savoir plus et consulter la liste des modèles et des longueurs de séquence prises en charge par technique, consultez la documentation relative à SageMaker AI.