Amazon SageMaker AI annuncia le API delle sessioni di addestramento per la personalizzazione del modello serverless
La personalizzazione del modello serverless di Amazon SageMaker AI ora supporta le API delle sessioni di addestramento, offrendo ai clienti il pieno controllo sul proprio algoritmo di post-addestramento senza dover effettuare il provisioning o gestire l'infrastruttura GPU. Le tecniche gestite, tra cui SFT, DPO e altri metodi di apprendimento per rinforzo, consentono ai clienti di scegliere una tecnica e un modello lasciando che sia SageMaker AI ad eseguire l'addestramento. Con le API delle sessioni di addestramento, i team possono scrivere il ciclo di addestramento, sia che si tratti di riprodurre SFT o DPO secondo i propri requisiti specifici, sia che si tratti di implementare una funzione di perdita (loss) personalizzata, un nuovo segnale di ricompensa RL, un curriculum dei dati o un algoritmo derivato direttamente dalle ricerche più recenti. Operazioni come forward_backward(), optim_step() e sample() diventano chiamate API verso una sessione live e stateful; in questo modo i clienti possono comporre qualsiasi procedura di addestramento richiesta dalla propria tecnica, mentre SageMaker AI gestisce l'allocazione delle GPU, il caricamento dei modelli e di LoRA, l'esecuzione distribuita, il ripristino dai guasti, l'archiviazione dei checkpoint e la sicurezza.
I clienti possono richiamare queste operazioni direttamente dal proprio codice Python per eseguire l'apprendimento per rinforzo, il fine-tuning supervisionato o obiettivi di addestramento personalizzati su una sessione live, con funzionalità integrate di checkpointing e ripresa. La fatturazione viene calcolata per token elaborato, pertanto il calcolo locale come l'assegnazione del punteggio di ricompensa non viene fatturato come tempo GPU. SageMaker AI sta inoltre rilasciando la cookbook delle sessioni di addestramento di SageMaker, un insieme di ricette SFT e RL pronte all'uso che i clienti possono utilizzare come modello per i propri cicli di addestramento.
Le API per le sessioni di addestramento sono disponibili a livello generale a partire da oggi nelle regioni Stati Uniti orientali (Virginia settentrionale), Stati Uniti occidentali (Oregon) e Asia Pacifico (Mumbai). Per iniziare, installa l'SDK di SageMaker per Python e clona la cookbook, oppure avvia un notebook in SageMaker Studio e connetti un agente di codifica. Per ulteriori informazioni, consulta la documentazione e la pagina web di Amazon SageMaker AI.