O Amazon SageMaker AI agora oferece suporte a comprimentos de sequência personalizados para trabalhos de personalização de modelos com tecnologia sem servidor
Hoje, o Amazon SageMaker AI anuncia a capacidade de configurar o tamanho da sequência usado durante seu trabalho de personalização de modelos com tecnologia sem servidor. A personalização de modelos com tecnologia sem servidor do Amazon SageMaker AI oferece suporte ao ajuste fino de muitos modelos de peso aberto, incluindo modelos de famílias populares, incluindo gpt-oss, Gemma, Llama, Nemotron e Qwen. Anteriormente, cada receita de ajuste fino era executada em um comprimento de sequência fixo que os clientes não podiam modificar. Às vezes, os clientes precisam modificar esses parâmetros para obter melhores resultados para seu caso de uso. Os clientes também solicitaram comprimentos de sequência maiores do que os padrões estáticos que suportamos em alguns modelos.
Agora, você pode definir parâmetros de comprimento de sequência como parte dos hiperparâmetros do trabalho de personalização, em qualquer lugar até o máximo publicado para o modelo e a técnica escolhidos. Você pode definir o hiperparâmetro dataset_max_len para trabalhos SFT e DPO ou definir os hiperparâmetros max_prompt_length e max_response_length para trabalhos RFT. Isso lhe dá mais controle para corresponder às características de seus dados de treinamento, esteja você trabalhando com pares curtos de perguntas e respostas ou com documentos de várias páginas. Os máximos publicados são de até 16K tokens para muitos modelos, dependendo do modelo e da técnica.
A personalização de modelos do Qwen3.6 com tecnologia sem servidor no SageMaker AI está disponível nas regiões Leste dos EUA (Norte da Virgínia), Oeste dos EUA (Oregon), Ásia-Pacífico (Tóquio) e Europa (Irlanda). Para começar a usá-lo, navegue até a página Modelos no Amazon SageMaker Studio para iniciar um trabalho de personalização, usar o SDK do SageMaker para Python ou usar nossas habilidades de agente com o assistente de codificação de sua escolha. Para saber mais e ver a lista de modelos e comprimentos de sequência suportados por técnica, consulte a documentação do SageMaker AI.