Veröffentlicht am: Aug 24, 2023
Die Trn1-Instances von Amazon Elastic Compute Cloud (Amazon EC2) sind jetzt in der Region USA Ost (Ohio) allgemein verfügbar. Trn1-Instances ermöglichen ein leistungsstarkes Training beliebter generativer KI-Modelle in AWS und bieten gleichzeitig bis zu 50 % geringere Trainingskosten als vergleichbare Amazon-EC2-Instances.
Sie können EC2-Trn1-Instances verwenden, um beliebte große Sprachmodelle wie GPT und LLama, Vision-Modelle wie Stable Diffusion und eine Vielzahl anderer Deep-Learning-Modelle für Empfehlungen, Betrugserkennung, Prognosen und mehr zu trainieren. Trn1-Instances werden durch das AWS Neuron SDK aktiviert, das in führende ML-Frameworks wie PyTorch und TensorFlow sowie Bibliotheken wie Megatron-LM, NeMO, Neuron Distributed und Hugging Face integriert ist, sodass Sie Ihre vorhandenen Frameworks weiterhin verwenden und Ihre Anwendung mit minimalen Codeänderungen ausführen können. Entwickler können Deep-Learning-Trainings-Workloads auf Trn1-Instances mit AWS Deep Learning AMIs, AWS Deep Learning Containers oder verwalteten Services wie AWS ParallelCluster, Amazon Elastic Kubernetes Service (Amazon EKS), Amazon SageMaker, AWS Batch usw. unterstützen.
Amazon-EC2-Trn1-Instances sind in zwei Größen verfügbar: trn1.2xlarge, zum Experimentieren mit einem einzigen Accelerator und kostengünstigen Trainieren kleiner Modelle, und trn1.32xlarge zum Trainieren umfangreicher Modelle. Sie sind in den folgenden AWS-Regionen als On-Demand, Reserved und Spot Instances oder als Teil eines Savings Plans verfügbar: USA Ost (Nord-Virginia), USA West (Oregon) und USA Ost (Ohio).
Weitere Informationen zu Trn1-Instances finden Sie auf der Webseite zu Trn1-Instances von Amazon EC2 und in der AWS-Neuron-Dokumentation.