Les instances de bloc-notes Amazon SageMaker prennent désormais en charge les instances basées sur Trainium1 et Inferentia 2
Nous avons le plaisir d'annoncer la disponibilité générale des instances EC2 basées sur Trainium1 et Inferentia2 sur les instances de bloc-notes SageMaker.
Les instances Amazon EC2 Trn1, optimisées par des puces AWS Trainium, et les instances Inf2, optimisées par des puces AWS Inferentia, sont spécialement conçues pour l’entraînement et l'inférence de deep learning de haute performance, respectivement. Les instances Trn1 permettent de réaliser des économies par rapport à d'autres instances Amazon EC2 comparables pour l'entraînement de plus de 100 milliards de paramètres dans les modèles d'IA générative, tels que les grands modèles de langage (LLM) et la diffusion latente. Les instances Inf2 fournissent une inférence performante et peu coûteuse pour l'IA générative, notamment les LLM et les transformeurs de vision. Vous pouvez utiliser les instances Trn1 et Inf2 dans un large éventail d'applications, telles que la synthèse de texte, la génération de code, la réponse à des questions, la génération d'images et de vidéos, la recommandation et la détection des fraudes.
Les instances Amazon EC2 Trn1 sont disponibles pour les instances de bloc-notes Sagemaker dans les régions AWS USA Est (Virginie du Nord et Ohio) et USA Ouest (Oregon). Les instances Amazon EC2 TRN1n sont disponibles pour SageMaker NBI dans les régions AWS USA East (Virginie du Nord et Ohio). Les instances Amazon EC2 Inf2 sont disponibles pour SageMaker NBI dans les régions AWS USA Ouest (Oregon), AWS USA Est (Virginie du Nord et Ohio), AWS UE (Irlande), AWS UE (Francfort), AWS Asie-Pacifique (Tokyo), AWS Asie-Pacifique (Sydney), AWS Asie-Pacifique (Mumbai), AWS UE (Londres), AWS Asie-Pacifique (Singapour), AWS UE (Stockholm), AWS UE (Paris) et AWS Amérique du Sud (São Paulo).
Consultez le Guide du développeur pour obtenir des instructions sur la configuration et l'utilisation des instances de blocs-notes SageMaker.