O Amazon SageMaker IA agora oferece suporte à personalização de modelos com tecnologia sem servidor para o NVIDIA Nemotron 3.5 Lightning
O Amazon SageMaker IA agora oferece suporte à personalização de modelos com tecnologia sem servidor para o modelo NVIDIA Nemotron 3.5 Lightning usando ajuste fino supervisionado (SFT), otimização de preferência direta (DPO) e ajuste fino por reforço (RFT). Este é um dos mais recentes modelos de peso aberto da NVIDIA e emprega uma arquitetura híbrida de mistura de especialistas com 3B de parâmetros ativos e 30B de parâmetros no total. Além de implantar esse modelo no SageMaker AI, agora você pode adaptá-lo aos seus domínios e fluxos de trabalho específicos.
A personalização do modelo permite que você personalize os modelos básicos com seus dados proprietários para que um modelo menor e do tamanho certo possa corresponder à qualidade do modelo de fronteira em suas tarefas, reduzindo o custo e a latência. Você pode usar dados rotulados com o SFT para melhorar a precisão em tarefas específicas do domínio, dados de preferência com o DPO para alinhar os resultados com o tom da sua organização ou recompensar sinais com o RFT para melhorar o desempenho em novas tarefas. Com a personalização com tecnologia sem servidor, o SageMaker AI gerencia todo o provisionamento de infraestrutura e a orquestração de treinamento. Você fica livre para manter o foco nos dados e na avaliação, em vez de gerenciar clusters, e paga apenas pelo que usar.
A personalização de modelos NVIDIA Nemotron 3.5 Nano com tecnologia sem servidor no SageMaker AI está disponível nas regiões Leste dos EUA (Norte da Virgínia), Oeste dos EUA (Oregon), Ásia-Pacífico (Tóquio) e Europa (Irlanda). Para começar a usá-lo, navegue até a página Modelos no Amazon SageMaker Studio para iniciar um trabalho de personalização ou use o SDK do SageMaker Python para acessar o recurso de forma programática. Para saber mais, consulte a documentação de personalização de modelos do Amazon SageMaker AI.