Ankündigung von AWS Neuron SDK 2.27.0
Heute kündigt AWS Neuron SDK 2.27.0 an, das die Unterstützung für Trainium3 UltraServer mit erweiterten Open-Source-Komponenten einführt. Neuron stellt außerdem die Neuron Explorer-Toolsuite, Enhanced NKI mit Open-Source-NKI-Compiler auf Basis von MLIR (private Beta), die NKI-Bibliothek mit optimierten Kerneln, native PyTorch-Unterstützung durch TorchNeuron (private Beta) und Neuron DRA für Kubernetes-natives Ressourcenmanagement (private Beta) vor.
Diese Updates ermöglichen es, dass Standard-Frameworks unverändert auf Trainium laufen, wodurch Entwickler keine Einschränkungen beim Experimentieren und bei Innovationen befürchten müssen. Für Entwickler, die mehr Kontrolle benötigen, bietet das erweiterte Neuron Kernel Interface (NKI) Beta 2 direkten Zugriff auf Optimierungen auf Hardwareebene, sodass Kunden KI-Workloads mit verbesserter Leistung skalieren können. Wenn Sie an einem frühen Zugang zu den neuen NKI-Features und -Verbesserungen interessiert sind, können Sie am Private-Beta-Programm von Neuron teilnehmen.
Die neue SDK-Version ist in allen AWS-Regionen verfügbar, die Inferentia- und Trainium-Instanzen unterstützen, und bietet verbesserte Leistungs- und Überwachungsfunktionen für Machine Learning-Workloads.
Weitere Informationen finden Sie hier: