Amazon SageMaker AI unterstützt jetzt Serverless-Modellanpassung für NVIDIA Nemotron 3.5 Lightning
Amazon SageMaker AI unterstützt jetzt die Serverless-Modellanpassung für das Modell NVIDIA Nemotron 3.5 Lightning mithilfe von Supervised Fine Tuning (SFT), Direct Preference Optimization (DPO) und Reinforcement Fine Tuning (RFT). Das ist eines der neuesten Open-Weight-Modelle von NVIDIA und verwendet eine hybride Mixture-of-Experts-Architektur mit 3 B aktiven Parametern und insgesamt 30 B Parametern. Zusätzlich zur Bereitstellung dieses Modells auf SageMaker AI können Sie es jetzt an Ihre spezifischen Domains und Workflows anpassen.
Die Modellanpassung ermöglicht es Ihnen, Basismodelle mit Ihren geschützten Daten maßzuschneidern, sodass ein kleineres, richtig dimensioniertes Modell bei Ihren Aufgaben mit der Qualität von Grenzmodellen mithalten kann, wodurch Kosten und Latenz reduziert werden. Sie können beschriftete Daten mit SFT verwenden, um die Genauigkeit bei domänenspezifischen Aufgaben zu verbessern, Präferenzdaten mit DPO, um die Ergebnisse an den Ton Ihres Unternehmens anzupassen, oder Belohnungssignale mit RFT verwenden, um die Leistung bei neuen Aufgaben zu verbessern. Dank Serverless-Anpassung kümmert sich SageMaker AI um die gesamte Infrastrukturbereitstellung und Trainingsorchestrierung, sodass Sie sich auf Ihre Daten und Evaluierungen statt auf das Cluster-Management konzentrieren können und nur für das bezahlen, was Sie tatsächlich nutzen.
Die Serverless-Modellanpassung für NVIDIA Nemotron 3.5 Lightning auf SageMaker AI ist in den Regionen USA Ost (Nord-Virginia), USA West (Oregon), Asien-Pazifik (Tokio) und Europa (Irland) verfügbar. Navigieren Sie zunächst zur Seite „Modelle“ in Amazon SageMaker Studio, um einen Anpassungsjob zu starten, oder verwenden Sie das SageMaker-Python-SDK für den programmatischen Zugriff. Weitere Informationen finden Sie in der Dokumentation für Amazon SageMaker AI zur Modellanpassung.