Notebook-Instances für Amazon SageMaker unterstützen jetzt Trainium1- und Inferentia 2-basierte Instances
Wir freuen uns, die allgemeine Verfügbarkeit von Trainium1- und Inferentia2-basierten EC2-Instances auf Notebook-Instances für SageMaker bekannt geben zu können.
AWS-Trainium-Chips-basierte Trn1-Instances, und AWS-Inferentia-Chips basierte Inf2-Instances von AWS EC2 sind speziell für leistungsstarkes Deep-Learning-Training bzw. Inferenz entwickelt. Trn1-Instances bieten Kosteneinsparungen gegenüber vergleichbaren Amazon-EC2-Instances, um generative KI-Modellen mit über 100 B Parametern wie Large Language Models (LLMs) und latenter Diffusion zu trainieren. Inf2-Instances bieten leistungsstarke Inferenz für generative KI zu niedrigen Preisen, inklusive LLMs und Vision Transformers. Sie können Trn1- und Inf2-Instances für die verschiedensten Anwendungen verwenden, wie z. B. Textzusammenfassung, Codegenerierung, Beantwortung von Fragen, Bild- und Videogenerierung, Empfehlungen und Betrugserkennung.
Amazon-EC2-Trn1-Instances sind für SageMaker-Notebook-Instances in den AWS-Regionen USA Ost (Nord-Virginia und Ohio) und USA West (Oregon) verfügbar. Amazon-EC2-Trn1n-Instances sind für SageMaker NBI in den AWS-Regionen USA Ost (Nord-Virginia und Ohio) verfügbar. Amazon-EC2-Inf2-Instances sind für SageMaker NBI in den AWS- Regionen USA West (Oregon), USA Ost (Nord-Virginia und Ohio), EU (Irland), EU (Frankfurt), Asien-Pazifik (Tokio), Asien-Pazifik (Sydney), Asien-Pazifik (Mumbai), EU (London), Asien-Pazifik (Singapur), EU (Stockholm), EU (Paris) und Südamerika (São Paulo) verfügbar.
Anweisungen zum Einrichten und Verwenden von SageMaker-Notebook-Instances finden Sie im Entwicklerhandbuch.