Veröffentlicht am: Nov 27, 2023
Ab heute verwenden das AWS Command Line Interface (AWS CLI) und das Python SDK automatisch die AWS Common Runtime (CRT), um die Datenübertragung zwischen Amazon S3- und Amazon EC2 Trn1-, P4d- und P5-Instances zu beschleunigen. Das AWS CRT implementiert die Best Practices von Amazon S3 für die Parallelisierung von Anfragen, automatische Wiederholungsversuche, DNS-Lastenausgleich und mehr, um hohe Datenübertragungsraten zwischen Amazon EC2 und Amazon S3 zu erzielen. Aus diesem Grund laden Trainingsjobs für Machine Learning Trainingsdaten jetzt bis zu dreimal schneller von Amazon S3 herunter und laden Modell-Checkpoints bis zu fünfmal schneller auf Amazon S3 hoch, was die Trainingszeiten insgesamt beschleunigt.
Diese Änderung ist automatisch in den neuesten AWS Deep Learning AMIs (DLAMI) enthalten, wenn Amazon EC2 Trn1-, P4d- und P5-Instances gestartet werden, die sich ideal für generative KI-Modelle eignen, einschließlich großer Sprach- und Diffusionsmodelle. Jetzt profitieren Anwendungen, die die AWS-CLI und das Python-SDK für den Zugriff auf Amazon S3 verwenden, automatisch von den Leistungsvorteilen des AWS CRT. Das AWS CRT optimiert für die hohe Netzwerkbandbreite, die auf diesen Instances verfügbar ist, sodass Sie das Beste aus Ihren Rechenressourcen herausholen können, ohne die Speicherleistung manuell anpassen zu müssen. Weitere Informationen finden Sie in der Python-SDK-Dokumentation und in der CLI-Dokumentation.