Amazon SageMaker AI ahora admite la personalización de modelos sin servidor para NVIDIA Nemotron 3.5 Lightning
Amazon SageMaker AI ahora admite la personalización del modelo sin servidor para NVIDIA Nemotron 3.5 Lightning mediante el ajuste fino supervisado (SFT), la optimización de preferencias directas (DPO) y el refinamiento por refuerzo (RFT). Este es uno de los últimos modelos de peso abierto de NVIDIA y emplea una arquitectura híbrida de mezcla de expertos con 3000 millones de parámetros activos y 30 000 millones de parámetros en total. Además de implementar este modelo en SageMaker AI, ahora puede adaptarlo a sus dominios y flujos de trabajo específicos.
La personalización de modelos le permite adaptar los modelos fundacionales con sus datos patentados para que un modelo más pequeño y con el tamaño adecuado pueda alcanzar la calidad de los modelos de vanguardia en sus tareas, lo que reduce los costos y la latencia. Puede usar datos etiquetados con SFT para mejorar la precisión en las tareas específicas de un dominio, datos de preferencias con DPO para alinear los resultados con el tono de su organización o señales de recompensa con RFT para mejorar el rendimiento en nuevas tareas. Con la personalización sin servidor, SageMaker AI gestiona todo el aprovisionamiento de la infraestructura y la orquestación del entrenamiento, de modo que puede centrarse en los datos y la evaluación en lugar de en la administración de clústeres, y pagar solo por lo que utiliza.
La personalización del modelo sin servidor para NVIDIA Nemotron 3.5 Lightning en SageMaker AI está disponible en las regiones de AWS este de EE. UU. (norte de Virginia), oeste de EE. UU. (Oregón), Asia-Pacífico (Tokio) y Europa (Irlanda). Para empezar, vaya a la página Modelos en Amazon SageMaker Studio a fin de iniciar un trabajo de personalización o utilice el SDK de Python de SageMaker para acceder mediante programación. Para obtener más información, consulte la documentación de personalización del modelo de Amazon SageMaker AI.