AWS Neuron 2.33 yerel PyTorch desteği, Neuron Observer ve diğer yeni özellikler ekler
AWS Neuron 2.33 artık genel olarak kullanılabilir. AWS Trainium'un yerel PyTorch arka ucu TorchNeuron artık genel beta sürümünde. Standart PyTorch API'leri ile yazılmış modelleri Amazon EC2 Trn2 ve Trn3 bulut sunucularında, hevesli modda veya torch.compile ile çalıştırabilirsiniz. Bu sürüm ayrıca, Trainium sağlık sorunlarını bir saniyeden kısa sürede tespit eden ve etkilenen düğümü veya cihazı tanımlayan genel beta sürümündeki Neuron Observer'ı sunar.
vLLM Neuron eklentisi vLLM 0.29.0'a yükseliyor ve Wan2.2 video üretimi için vLLM Omni Neuron eklentisi artık Neuron sürümünün bir parçasıdır. Her ikisi de TorchNeuron aracılığıyla yerel PyTorch derlemesini destekler. PyTorch eğitimi için kullanılan yeni Neuron Derin Öğrenme AMI'si ve Derin Öğrenme Container'ı arasında TorchNeuron, PyTorch 2.14 ve TorchTitan bulunur. Neuron Explorer, torch.profiler ile yakalanan profilleri açar. Hevesli modda bellek dışı hataları gidermek için artık bir PyTorch bellek görüntüsünden onu oluşturan Python kaynak satırlarına tahsisat yapar.
Nöron Kernel Arabirimi (NKI) ile yazılan çekirdekler artık meta programlama için oluşturucular ve sınıf devralma dahil tam Python dilini kullanabilir. NKI Kütüphanesi, DeepSeek-V3.2, Qwen3.5 ve Kimi Delta Attention için çekirdekler de dahil olmak üzere 25 yeni deneysel çekirdek ekler.
Başlamak için aşağıdaki kaynaklara bakın: