Amazon SageMaker AI prend désormais en charge la personnalisation des modèles sans serveur pour NVIDIA Nemotron 3.5 Lightning
Amazon SageMaker AI prend désormais en charge la personnalisation des modèles sans serveur pour le modèle NVIDIA Nemotron 3.5 Lightning à l’aide du peaufinage supervisé (SFT), de l’optimisation des préférences directes (DPO) et du peaufinage par renforcement (RFT). Il s’agit de l’un des derniers modèles à poids ouvert de NVIDIA, et il utilise une architecture hybride mixte d’experts avec 3 milliards de paramètres actifs et 30 milliards de paramètres au total. Outre le déploiement de ce modèle sur SageMaker AI, vous pouvez désormais l’adapter à vos domaines et flux de travail spécifiques.
La personnalisation des modèles vous permet d’adapter les modèles de fondation à vos données exclusives afin qu’un modèle plus petit et de bonne taille puisse correspondre à la qualité du modèle frontière pour vos tâches, réduisant ainsi les coûts et la latence. Vous pouvez utiliser des données étiquetées avec SFT pour améliorer la précision des tâches spécifiques à un domaine, des données de préférence avec DPO pour aligner les résultats sur le ton de votre organisation, ou des signaux de récompense avec RFT pour améliorer les performances sur de nouvelles tâches. Grâce à la personnalisation sans serveur, SageMaker AI gère l’ensemble du provisionnement de l’infrastructure et de l’orchestration de la formation, afin que vous puissiez vous concentrer sur vos données et leur évaluation plutôt que sur la gestion des clusters, et ne payer que pour ce que vous utilisez.
La personnalisation du modèle sans serveur pour NVIDIA Nemotron 3.5 Lightning sur SageMaker AI est disponible dans les Régions USA Est (Virginie du Nord), USA Ouest (Oregon), Asie-Pacifique (Tokyo) et Europe (Irlande). Pour commencer, accédez à la page Modèles d’Amazon SageMaker Studio pour lancer une tâche de personnalisation, ou utilisez le kit SDK Python de SageMaker pour un accès par programmation. Pour en savoir plus, consultez la documentation relative à la personnalisation du modèle Amazon SageMaker AI.