AWS Neuron 2.33 ajoute la prise en charge native de PyTorch, Neuron Observer et d’autres nouvelles fonctionnalités
AWS Neuron 2.33 est désormais disponible et ajoute TorchNeuron, le back-end PyTorch natif pour AWS Trainium, en version bêta publique. Vous pouvez exécuter des modèles écrits avec les API PyTorch standard sur des instances Amazon EC2 Trn2 et Trn3, en mode eager ou avec torch.compile. Cette version introduit également Neuron Observer en version bêta publique, qui détecte les problèmes de santé de Trainium en moins d’une seconde et identifie le nœud ou l’appareil concerné.
Le plug-in vLLM Neuron passe à la version vLLM 0.29.0, et le plug-in vLLM Omni Neuron pour la génération de vidéos Wan2.2 fait désormais partie de cette version de Neuron. Les deux prennent en charge la compilation native de PyTorch via TorchNeuron. Une nouvelle AMI Neuron Deep Learning et un conteneur Deep Learning pour la formation PyTorch incluent TorchNeuron, PyTorch 2.14 et TorchTitan. Neuron Explorer ouvre les profils capturés avec torch.profiler. À partir d’un instantané de la mémoire PyTorch, il attribue désormais des allocations aux lignes source Python qui les ont créées, afin de déboguer les erreurs de mémoire insuffisante en mode impatient.
Les noyaux écrits avec l’interface NKI (Neuron Kernel Interface) peuvent désormais utiliser le langage Python complet pour la métaprogrammation, y compris les générateurs et l’héritage de classes. La bibliothèque NKI ajoute 25 nouveaux noyaux expérimentaux, dont des noyaux pour DeepSeek-v3.2, Qwen3.5 et Kimi Delta Attention.
Pour commencer, consultez les ressources suivantes :