O Amazon SageMaker AI anuncia APIs de sessões de treinamento para personalização de modelos com tecnologia sem servidor
A personalização do modelo com tecnologia sem servidor do Amazon SageMaker AI agora suporta APIs de sessões de treinamento, oferecendo aos clientes controle total sobre seu algoritmo de pós-treinamento sem provisionar ou gerenciar a infraestrutura de GPU. Técnicas gerenciadas, incluindo SFT, DPO e outros métodos de aprendizado por reforço, permitem que os clientes escolham uma técnica e um modelo e façam com que o SageMaker AI execute o treinamento. Com as APIs da sessão de treinamento, as equipes podem escrever o ciclo de treinamento, seja reproduzindo SFT ou DPO em seus próprios termos ou implementando uma perda personalizada, um novo sinal de recompensa de RL, um currículo de dados ou um algoritmo diretamente da pesquisa mais recente. Operações como forward_backward (), optim_step () e sample () se tornam chamadas de API em uma sessão ao vivo e com estado, de modo que os clientes redigam qualquer procedimento de treinamento que sua técnica exija, enquanto o SageMaker AI lida com a alocação de GPU, o carregamento de modelos e LoRa, a execução distribuída, a recuperação de falhas, o armazenamento de pontos de verificação e a segurança.
Os clientes podem chamar essas operações diretamente de seu próprio código Python para impulsionar o aprendizado por reforço, o ajuste fino supervisionado ou os objetivos de treinamento personalizados em uma sessão ao vivo, com pontos de verificação e currículo integrados. O faturamento é por token processado, portanto, a computação local, como a pontuação de recompensa, não é cobrada como tempo de GPU. O SageMaker AI também está lançando o livro de receitas das sessões de treinamento do SageMaker, um conjunto de receitas de SFT e RL prontas para uso que os clientes podem usar como esquemas para seus próprios ciclos de treinamento.
As APIs das sessões de treinamento geralmente estão disponíveis atualmente no Leste dos EUA (Norte da Virgínia), Oeste dos EUA (Oregon) e Ásia-Pacífico (Mumbai). Para começar a usar, instale o SDK do SageMaker para Python e clone o livro de receitas ou inicie um notebook no SageMaker Studio e conecte um agente de codificação. Para saber mais, visite a documentação e a página da web do Amazon SageMaker AI.