Ankündigung von Amazon-SageMaker-HyperPod-Rezepten
Mit den Amazon SageMaker HyperPod-Rezepten können Sie innerhalb von Minuten beginnen, öffentlich verfügbare Basismodelle (FMs) zu trainieren und zu verfeinern und das mit modernster Leistung. SageMaker HyperPod hilft Kunden dabei, die Entwicklung generativer KI-Modelle auf Hunderten oder Tausenden von KI-Acceleratoren mit integrierten Resilienz- und Leistungsoptimierungen zu skalieren, wodurch die Trainingszeit für Modelle um bis zu 40 % verringert wird. Da jedoch die FM-Größen weiterhin auf Hunderte Milliarden von Parametern anwachsen, kann der individuelle Anpassungsprozess dieser Modelle Wochen intensiver Experimente und Debugging mit sich ziehen. Darüber hinaus ist das Durchführen von Trainingsoptimierungen zur Verbesserung des Preis-Leistungs-Verhältnisses für die Kunden oft nicht realisierbar , da diese des Öfteren ausgewiesene Kenntnisse im Bereich Machine Learning benötigen, was mitunter die Markteinführung weiter verzögert.
Mit den SageMaker HyperPod-Rezepten können Kunden jeden Kenntnisstands von modernster Leistung profitieren und gleichzeitig schnell mit dem Training und der Verfeinerung bekannter öffentlich verfügbarer FMs beginnen, darunter Llama 3.1 405B, Mixtral 8x22B und Mistral 7B. Die SageMaker HyperPod-Rezepte beinhalten einen von AWS getesteten Trainings-Stack, sodass Wochen langwieriger experimenteller Arbeit mit verschiedenen Modellkonfigurationen entfallen. Durch Ändern einer einzelnen Zeile im Rezept können Sie darüber hinaus schnell zwischen GPU-basierten und AWS Trainium-basierten Instances wechseln und automatische Kontrollpunkte für das Modell aktivieren, um die Trainingsstabilität zu erhöhen. Schließlich können Sie Workloads in der Produktion mit dem SageMaker-KI-Trainingsservice Ihrer Wahl ausführen.
SageMaker-HyperPod-Rezepte sind in allen AWS-Regionen verfügbar, in denen SageMaker HyperPod- und SageMaker-Trainingsjobs unterstützt werden. Weitere Informationen finden Sie auf der Seite von SageMaker HyperPod und den Blog.