Amazon SageMaker Studio unterstützt jetzt die SOCI-Indizierung für schnellere Container-Startzeiten
Heute kündigt AWS die Unterstützung von SOCI (Seekable Open Container Initiative) für die Indizierung von Amazon SageMaker Studio an, wodurch sich die Startzeiten von Containern bei der Verwendung von benutzerdefinierten Images um 30–50 % verringern. Amazon SageMaker Studio ist eine vollständig integrierte, browserbasierte Umgebung für die durchgängige Entwicklung von Machine Learning. SageMaker Studio bietet vorgefertigte Container-Images für beliebte ML-Frameworks wie TensorFlow, PyTorch und Scikit-learn, die eine schnelle Einrichtung der Umgebung ermöglichen. Wenn Datenwissenschaftler jedoch Umgebungen für bestimmte Anwendungsfälle mit zusätzlichen Bibliotheken, Abhängigkeiten oder Konfigurationen anpassen müssen, können sie benutzerdefinierte Container-Images mit vorkonfigurierten Komponenten erstellen und registrieren, um projektübergreifende Einheitlichkeit zu gewährleisten. Da ML-Workloads immer komplexer werden, sind diese benutzerdefinierten Container-Images immer größer geworden, was zu Startzeiten von mehreren Minuten führt, die einen Engpass bei der iterativen ML-Entwicklung darstellen, bei der schnelles Experimentieren und schnelles Prototyping unerlässlich sind.
Die SOCI-Indizierung bewältigt diese Herausforderung, indem sie das „Lazy Loading“ von Container-Images ermöglicht. Dabei werden nur die zum Starten von Anwendungen erforderlichen Komponenten heruntergeladen und zusätzliche Dateien bei Bedarf nachgeladen. Anstatt mehrere Minuten auf das Herunterladen eines vollständigen benutzerdefinierten Bildes zu warten, können Benutzer innerhalb von Sekunden mit der produktiven Arbeit beginnen, während die Umgebung im Hintergrund die Initialisierung abschließt. Um die SOCI-Indizierung zu verwenden, erstellen Sie einen SOCI-Index für Ihr benutzerdefiniertes Container-Image mithilfe von Tools wie Finch CLI, nerdctl oder Docker mit SOCI CLI, pushen das indizierte Image in die Amazon Elastic Container Registry (ECR) und referenzieren die Image-Index-URI beim Erstellen von SageMaker Image-Ressourcen.
Die SOCI-Indizierung ist in allen AWS-Regionen verfügbar, in denen Amazon SageMaker Studio verfügbar ist. Weitere Informationen zur Implementierung der SOCI-Indizierung für Ihre SageMaker Studio individuellen Images finden Sie unter Stellen Sie Ihr eigenes SageMaker-Image bereit im Amazon SageMaker Entwicklerleitfaden.