AWS Neuron 2.33 añade compatibilidad nativa con PyTorch, Neuron Observer y otras funcionalidades nuevas
AWS Neuron 2.33 ya está disponible y presenta TorchNeuron, el backend nativo de PyTorch para AWS Trainium, en versión beta pública. Puede ejecutar modelos escritos con las API PyTorch estándar en las instancias Trn2 y Trn3 de Amazon EC2, en modo eager o con torch.compile. Esta versión también presenta la versión beta pública de Neuron Observer, que detecta los problemas de estado de Trainium en menos de un segundo e identifica el nodo o dispositivo afectado.
El complemento vLLM Neuron se actualiza a vLLM 0.29.0, y el complemento vLLM Omni Neuron para la generación de vídeo Wan2.2 ahora forma parte de la versión Neuron. Ambos admiten la compilación nativa de PyTorch a través de TorchNeuron. Una nueva AMI de aprendizaje profundo de Neuron y un contenedor de aprendizaje profundo para la formación en PyTorch incluyen TorchNeuron, PyTorch 2.14 y TorchTitan. Neuron Explorer abre los perfiles capturados con torch.profiler. A partir de una instantánea de memoria de PyTorch, ahora atribuye las asignaciones a las líneas fuente de Python que las crearon, para depurar los errores de falta de memoria en modo eager.
Los núcleos escritos con la Neuron Kernel Interface (NKI) ahora pueden usar todo el lenguaje Python para la metaprogramación, incluidos los generadores y la herencia de clases. La biblioteca NKI añade 25 núcleos nuevos experimentales, incluidos núcleos para DeepSeek-v3.2, Qwen3.5 y Kimi Delta Attention.
Para comenzar, consulte los siguientes recursos: