Amazon-SageMaker-Studio-Notebooks unterstützen jetzt G6e-Instance-Typen

Veröffentlicht am: 15. Okt. 2024

Es freut uns, Ihnen die allgemeine Verfügbarkeit der Amazon-EC2-G6e-Instances auf SageMaker-Studio-Notebooks bekannt zu geben.

Amazon-EC2-G6e-Instances werden von bis zu 8 NVDIA-L40s-Tensor-Core-GPUs mit 48 GB Arbeitsspeicher pro GPU und AMD-EPYC-Prozessoren der dritten Generation angetrieben. G6e-Instances bieten im Vergleich zu EC2-G5-Instances eine bis zu 2,5-mal bessere Leistung. Kunden können G6e-Instances verwenden, um die Modellbereitstellung interaktiv zu testen und Anwendungsfälle für interaktives Modelltraining wie die generative KI-Feinabstimmung durchzuführen. Kunden können G6e-Instances verwenden, um große Sprachmodelle (LLM) mit bis zu 13 Mrd. Parametern und Diffusionsmodellen für die Generierung von Bildern, Video und Audio bereitzustellen.

Amazon-EC2-G6e-Instances sind für SageMaker-Studio-Notebooks in den AWS-Regionen USA Ost (Nord-Virginia und Ohio) und USA West (Oregon) verfügbar.

Lesen Sie die Entwicklerhandbücher für Anweisungen zur Einrichtung und Verwendung von JupyterLab- und CodeEditor-Anwendungen in SageMaker Studio.