Presentazione delle ricette Amazon SageMaker HyperPod
Le ricette di Amazon SageMaker HyperPod ti offrono supporto quando inizi ad addestrare ed eseguire il fine-tuning dei modelli di fondazione (FM) disponibili al pubblico in pochi minuti con prestazioni all'avanguardia. SageMaker HyperPod aiuta i clienti a scalare lo sviluppo di modelli di IA generativa su centinaia o migliaia di acceleratori di intelligenza artificiale con resilienza integrata e ottimizzazioni delle prestazioni, riducendo i tempi di addestramento dei modelli fino al 40%. Tuttavia, poiché le dimensioni FM continuano a crescere fino a raggiungere centinaia di miliardi di parametri, il processo di personalizzazione di questi modelli può richiedere settimane di sperimentazione e debug approfonditi. Inoltre, l'ottimizzazione della formazione per ottenere migliori prestazioni in termini di prezzo è spesso irrealizzabile per i clienti, poiché spesso richiedono una profonda esperienza di machine learning che potrebbe causare ulteriori ritardi nei tempi di commercializzazione.
Con le ricette SageMaker HyperPod, i clienti con qualsiasi livello di competenza possono beneficiare di prestazioni all'avanguardia e iniziare rapidamente ad addestrare ed eseguire il fine-tuning dei più diffusi FM disponibili al pubblico, tra cui Llama 3.1 405B, Mixtral 8x22B e Mistral 7B. Le ricette di SageMaker HyperPod includono uno stack di formazione testato da AWS, che elimina settimane di ripetitivo lavoro di sperimentazione con diverse configurazioni di modelli. Puoi anche passare rapidamente da istanze basate su GPU a istanze basate su AWS Trainium con una modifica di ricetta di una riga e abilitare il checkpoint automatico dei modelli per una migliore resilienza di addestramento. Infine, puoi eseguire carichi di lavoro in produzione sul servizio di addestramento IA di SageMaker di tua scelta.
Le ricette SageMaker HyperPod sono disponibili in tutte le regioni AWS in cui sono supportati i processi di addestramento SageMaker HyperPod e SageMaker. Per saperne di più e iniziare, visita la pagina di SageMaker HyperPod e il blog.