Amazon SageMaker AI supporta ora la personalizzazione dei modelli serverless per NVIDIA Nemotron 3.5 Lightning
Amazon SageMaker AI supporta ora la personalizzazione dei modelli serverless per il modello NVIDIA Nemotron 3.5 Lightning utilizzando il fine-tuning supervisionato (SFT), il fine-tuning diretto delle preferenze (DPO) e il fine-tuning tramite apprendimento per rinforzo (RFT). Questo è uno degli ultimi modelli open weight di NVIDIA e utilizza un'architettura ibrida Mixture-of-Experts con 3 miliardi di parametri attivi e 30 miliardi di parametri in totale. Oltre a distribuire questo modello su SageMaker AI, è ora possibile adattarlo a domini e flussi di lavoro specifici.
La personalizzazione dei modelli consente di adattare i modelli di base con i dati proprietari, permettendo a un modello più piccolo e delle giuste dimensioni di eguagliare la qualità di un modello di frontiera per le proprie attività, riducendo costi e latenza. Puoi utilizzare dati etichettati con SFT per migliorare la precisione nelle attività specifiche del dominio, dati di preferenza con DPO per allineare gli output al tono della tua organizzazione o segnali di ricompensa con RFT per migliorare le prestazioni su nuove attività. Con la personalizzazione serverless, Amazon SageMaker AI gestisce tutto il provisioning dell’infrastruttura e l’orchestrazione del training, così puoi concentrarti sui dati e sulla valutazione invece che sulla gestione dei cluster, e pagare solo per ciò che utilizzi.
La personalizzazione dei modelli serverless per NVIDIA Nemotron 3.5 Lightning su Amazon SageMaker AI è disponibile nelle regioni Stati Uniti orientali (Virginia settentrionale), Stati Uniti occidentali (Oregon), Asia Pacifico (Tokyo) ed Europa (Irlanda). Per iniziare, vai alla pagina Modelli in Amazon SageMaker Studio per avviare un processo di personalizzazione, oppure utilizza l'SDK Python di SageMaker per l'accesso programmatico. Per ulteriori informazioni, consulta la documentazione sulla personalizzazione dei modelli di Amazon SageMaker AI.