AWS Neuron 2.30.0, NKI 0.4.0 ve 22 yeni NKI Kütüphanesi çekirdeği ile kullanıma sunuldu
AWS bugün genel kullanıma sunduğu AWS Neuron 2.30.0 ile NKI 0.4.0'a AWS Trainium3'e özgü donanım özellikleri, 22 yeni NKI Kütüphanesi çekirdeği ve model taşıma ve doğrulama için genişletilmiş Neuron Temsilci Tabanlı Geliştirme özellikleri sunar. Bu sürüm, özel çekirdekler oluşturan, eğitim ve çıkarım iş yüklerini optimize eden veya modelleri AWS Trainium ve Inferentia'ya taşıyan makine öğrenimi geliştiricileri içindir.
NKI 0.4.0, Trn3 için activate2 Skaler Engine talimatını, matris çarpımı için OCP FP8 girdi desteğini ve çekirdek geliştirmeyi basitleştiren bayt duyarlı bölüm boyutu sabitlerini sunar. NKI Kütüphanesi ayrılmış dikkat için 13 yeni çekirdek, KV ile paralel önceden doldurma,FP8 nicelemesi; bağlam paralelliğini kapsayan 19 yeni deneysel çekirdek, MXFP8 eğitimi, durum alan modelleri ve birleştirilmiş optimize ediciler ekler. PyTorch referans uygulamaları artık 29 çekirdek için kullanılabilir.
Nisan 2026'da beta olarak piyasaya sürülen Neuron Temsilci Tabanlı Geliştirme, iki yeni özellik ekliyor: HuggingFace modellerini uçtan uca NxD Çıkarımı'na taşımak için nöron-çerçeve-otomatik taşıma ve taşınan modellerin sayısal eşdeğerliğini doğrulamak için nöron-çerçeve-eşdeğerliği. Varsayılan olarak, her ikisi de artık tüm Neuron DLAMI'lere ve Derin Öğrenme Container'larına dahil edilmiştir. Bu sürüm ayrıca, Trainium hızlandırıcılarının ve Esnek Yapı Bağdaştırıcısı (EFA) arayüzlerinin topolojiye duyarlı zamanlamasını sağlayan Kubernetes Dinamik Kaynak Tahsisi için Neuron DRA Sürücüsü'nü de ekler. Neuron Grafik Derleyicisi artık önemli derleme zamanı iyileştirmeleri sunuyor ve Neuron Çalışma Zamanı, varsayılan olarak sıfır kopya ana sunucu-cihaz aktarımlarını mümkün kılıyor.
AWS Neuron, Amazon EC2 Trn1, Trn2, Inf2 ve Inf1 bulut sunucularının kullanılabildiği tüm AWS Bölgelerinde kullanılabilir. Bölgesel erişilebilirlik hakkında daha fazla bilgi için AWS Bölge Tablosu'na bakın.
Başlamak için aşağıdaki kaynaklara bakın: