Amazon SageMaker AI ora supporta le istanze Amazon P6e-GB200 UltraServers
Oggi Amazon SageMaker AI introduce il supporto per l'istanza Amazon P6e-GB200 UltraServers in SageMaker HyperPod e nei job di addestramento. Queste istanze consentono di utilizzare fino a 72 GPU NVIDIA Blackwell in un unico dominio NVLink per accelerare l'addestramento e l'implementazione di modelli di fondazione con migliaia di miliardi di parametri. Le istanze P6e-GB200 UltraServers sono disponibili in due dimensioni: ml.u-p6e-gb200x72 (72 GPU all'interno di NVLink) e ml.u-p6e-gb200x36 (36 GPU all'interno di NVLink).
Offrono prestazioni oltre 20 volte superiori in termini di calcolo e oltre 11 volte superiori in memoria rispetto alle istanze P5en, sempre in un unico NVLink NVIDIA. In ciascun dominio NVLink è possibile accedere a 360 petaflop di potenza di calcolo FP8 (senza scarsità) e a 13,4 TB di memoria totale ad alta larghezza di banda (HBM3e). Utilizzando le istanze P6e-GB200 UltraServers su SageMaker AI, le prestazioni superiori della GPU NVIDIA GB200 si uniscono all'infrastruttura gestita di SageMaker, che offre sicurezza, tolleranza ai guasti integrata, pianificazione ottimizzata per la topologia (SageMaker HyperPod EKS e Slurm), monitoraggio integrato e integrazione nativa con altri servizi SageMaker AI e AWS.
Le istanze P6e-GB200 UltraServers sono disponibili tramite i piani di addestramento flessibili di SageMaker nella AWS Local Zone di Dallas ("us-east-1-dfw-2a"), un'estensione della regione AWS Stati Uniti orientali (Virginia settentrionale). Per prenotarle on demand, contatta il tuo account manager. Amazon SageMaker AI consente di addestrare e implementare facilmente modelli di machine learning su larga scala utilizzando un'infrastruttura completamente gestita e ottimizzata per prestazioni e costi. Per iniziare a utilizzare le istanze Amazon P6e-GB200 UltraServers su SageMaker AI, consulta la documentazione.