Mengumumkan AWS Neuron SDK 2.27.0
Hari ini, AWS mengumumkan Neuron SDK 2.27.0, yang memperkenalkan dukungan untuk Trainium3 UltraServer dengan komponen sumber terbuka yang diperluas. Neuron juga memperkenalkan rangkaian alat Neuron Explorer, NKI yang disempurnakan dengan NKI Compiler sumber terbuka yang dibangun di atas MLIR (beta privat), Pustaka NKI dari kernel yang dioptimalkan, dukungan PyTorch asli melalui TorchNeuron (beta privat), dan Neuron DRA untuk manajemen sumber daya asli Kubernetes (beta privat).
Pembaruan ini memungkinkan kerangka kerja standar untuk berjalan tanpa perubahan di Trainium, menghilangkan hambatan bagi para peneliti untuk bereksperimen dan berinovasi. Bagi pengembang yang membutuhkan kontrol lebih mendalam, Antarmuka Kernel Neuron (NKI) Beta 2 yang disempurnakan menyediakan akses langsung ke optimasi tingkat perangkat keras, memungkinkan pelanggan untuk menskalakan beban kerja AI dengan kinerja yang lebih baik. Jika Anda tertarik untuk mendapatkan akses awal ke fitur dan peningkatan NKI yang baru, Anda dapat bergabung dengan program beta privat Neuron.
Versi SDK baru tersedia di semua AWS Region yang mendukung instans Inferentia dan Trainium, menawarkan peningkatan kinerja dan kemampuan pemantauan untuk beban kerja machine learning.
Untuk detail selengkapnya, lihat: