Veröffentlicht am: Jul 28, 2023
Amazon SageMaker Studio hat die Unterstützung für die ml.G5-GPU-Instance-Familie in der Region Südamerika (São Paulo) eingeführt. Kunden, die ml. G5-Instances in Amazon SageMaker Studio Notebooks verwenden, können von einer bis zu 3,3-mal schnelleren Leistung für das Training von Machine Learning im Vergleich zu ml. G4dn-Instances profitieren. Somit sind sie eine leistungsstarke und kosteneffiziente Lösung für interaktives Modelltraining für Anwendungsfälle wie die Optimierung von generativen KI-Grundlagenmodellen, Verarbeitung natürlicher Sprache, Computer Vision und Recommender Engines.
ml.G5-Instances verfügen über bis zu 8 NVIDIA A10G-Tensor-Core-GPUs und AMD-EPYC-Prozessoren der zweiten Generation. Sie unterstützen außerdem bis zu 192 vCPUs, bis zu 100 Gbit/s Netzwerkbandbreite und bis zu 7,6 TB lokalen NVMe-SSD-Speicher. Die Kunden können die am besten geeignete Instance-Größe aus acht Optionen wählen, die zwischen einer und acht GPUs bieten. Weitere Informationen über ml. G5-Instances finden Sie im AWS-News-Blog oder auf der G5-Instance-Seite.
Für die Einrichtung und die ersten Schritte mit SageMaker Studio besuchen Sie unser Entwicklerhandbuch . In diesem Blog-Beitrag finden Sie auch ein Beispiel für die Feinabstimmung eines großen Sprachmodells mit der ml.G5-Instance in SageMaker Studio.