Amazon ECS Managed Instances unterstützt jetzt AWS Trainium und AWS Inferentia
Amazon Elastic Container Service (Amazon ECS) Managed Instances unterstützen jetzt AWS Trainium und AWS Inferentia, speziell entwickelte KI-Beschleuniger, die darauf ausgelegt sind, skalierbare Leistung und Kosteneffizienz für Training und Inferenz für ein breites Spektrum generativer KI-Workloads zu bieten. Amazon ESC Managed Instances ist eine neue vollständig verwalteten Rechenoption, die den Overhead bei der Infrastrukturverwaltung eliminiert und Ihnen gleichzeitig den Zugriff auf alle Funktionen von Amazon EC2 ermöglicht. Durch die Verlagerung der Infrastruktur-Operationen auf AWS hilft Ihnen ECS Managed Instances, Ihre Workloads schnell zu starten und zu skalieren, während Sie gleichzeitig die Leistung verbessern und Ihre Gesamtbetriebskosten senken.
Mit ECS Managed Instances erhalten Sie die von Ihnen gewünschte Anwendungsleistung und die Einfachheit, die Sie brauchen. Sie können jetzt einen ECS Managed Instances-Kapazitätsanbieter erstellen und die gewünschten beschleunigten Instance-Typen auswählen, einschließlich Inferentia2, Trainium1 und Trainium2, und dann die Konfiguration NEURON_Core=ALL zum ResourceRequirement-Abschnitt Ihrer Aufgabendefinition hinzufügen. Dadurch wird Amazon ECS angewiesen, die von Ihnen angegebenen Instances zu starten und eine einzelne Aufgabe pro Instance auszuführen, wobei automatisch alle Ressourcen des Beschleunigers Ihrem Workload zugewiesen werden, um optimale Leistung zu erzielen.
Um mit ECS Managed Instances zu beginnen, verwenden Sie die AWS-Konsole, Amazon ECS MCP Server oder Ihr bevorzugtes Infrastructure-as-Code-Tooling, um sie in einem neuen oder bestehenden Amazon ECS-Cluster zu aktivieren. Die Kosten für die Verwaltung der bereitgestellten Rechenleistung werden Ihnen zusätzlich zu den regulären Amazon EC2-Kosten in Rechnung gestellt. Um mehr über ECS Managed Instances zu erfahren, besuchen Sie die Feature-Seite, die Dokumentation und den Launch Blog von AWS News.