O AWS Neuron 2.33 adiciona suporte nativo ao PyTorch, ao Neuron Observer e a outros novos recursos
O AWS Neuron 2.33 já está disponível, apresentando o TorchNeuron, o back-end nativo do PyTorch para o AWS Trainium, em versão beta pública. Você pode executar modelos escritos com as APIs padrão do PyTorch nas instâncias Trn2 e Trn3 do Amazon EC2, no modo ansioso ou com torch.compile. Esta versão também apresenta o Neuron Observer na versão beta pública, que detecta problemas de saúde do Trainium em menos de um segundo e identifica o nó ou dispositivo afetado.
O plugin vLLM Neuron é atualizado para o vLLM 0.29.0, e o plugin vLLM Omni Neuron para geração de vídeo Wan2.2 agora faz parte da versão do Neuron. Ambos suportam a compilação nativa do PyTorch por meio do TorchNeuron. Um novo Neuron Deep Learning AMI e Deep Learning Container para treinamento em PyTorch incluem TorchNeuron, PyTorch 2.14 e TorchTitan. O Neuron Explorer abre perfis capturados com torch.profiler. A partir de um instantâneo de memória do PyTorch, ele agora atribui alocações às linhas de origem do Python que as criaram, para depurar erros de falta de memória no modo ansioso.
Os kernels escritos com a Neuron Kernel Interface (NKI) agora podem usar a linguagem Python completa para metaprogramação, incluindo geradores e herança de classes. A Biblioteca NKI adiciona 25 novos kernels experimentais, incluindo kernels para DeepSeek-v3.2, Qwen3.5 e Kimi Delta Attention.
Para começar a usá-lo, consulte os seguintes recursos: