SageMaker Notebook Instances unterstützen jetzt P5en.48XL-Instance-Typen
Es freut uns, Ihnen die allgemeine Verfügbarkeit der Amazon-EC2-P5en-48xl-Instances auf SageMaker-Notebooks bekannt zu geben.
Amazon-EC2-P5en-Instances verfügen über 8 H200-GPUs, die im Vergleich zu den in P5-Instances verwendeten H100-GPUs eine 1,7-mal größere GPU-Speicherkapazität und eine 1,4-fache GPU-Speicherbandbreite aufweisen. P5en-Instances koppeln die H200-GPUs mit hochleistungsfähigen, benutzerdefinierten Intel Xeon Scalable-Prozessoren der 4. Generation und ermöglichen somit die PCIe der 5. Generation zwischen CPU und GPU, was die Bandbreite zwischen CPU und GPU beinahe vervierfacht und die KI-Trainings- und Inferenzleistung steigert. Durch die max. 3200 Gbit/s der dritten Generation von EFA, und die Verwendung von Version Nitro v5, zeigt P5en eine Verbesserung der Latenz um bis zu 35 % im Vergleich zu P5, das die vorherige Generation von EFA und Nitro verwendet. Dies trägt dazu bei, die kollektive Kommunikationsleistung für verteilte Trainingsworkloads wie Anwendungen des Deep Learnings, generativer KI, der Echtzeitdatenverarbeitung und des High-Performance Computings (HPC) zu verbessern.
Amazon EC2 P5en.48XL-Instances sind auf SageMaker-Notebook-Instances in den AWS-Regionen USA Ost (Nord-Virginia und Ohio), USA West (Oregon) und Asien-Pazifik (Tokio) verfügbar.
Lesen Sie die Entwicklerhandbücher für Anweisungen zur Einrichtung und Verwendung von JupyterLab- und CodeEditor-Anwendungen in SageMaker Studio und SageMaker-Notebook-Instances.