AWS annonce TorchNeuron : prise en charge native de PyTorch pour AWS Trainium (version bêta publique)
AWS a lancé aujourd’hui la version bêta publique de TorchNeuron, un back-end PyTorch natif open source pour AWS Trainium. Trainium est un portefeuille de puces d’IA conçues pour offrir des performances et une rentabilité élevées pour les charges de travail d’entraînement deep learning d’IA et d’inférence. TorchNeuron permet aux scientifiques et aux chercheurs en IA d’expérimenter et de créer des modèles avec PyTorch de manière native sur Trainium.
Avec TorchNeuron, les développeurs peuvent activer leur code PyTorch sur Trainium simplement en passant à .to('neuron') tout en conservant une compatibilité totale avec PyTorch avec les API PyTorch Eager Execution, torch.compile et standard. De plus, TorchNeuron s’intègre à Neuron Kernel Interface (NKI) pour permettre la personnalisation des opérateurs et l’optimisation des performances du matériel Trainium.
TorchNeuron est disponible en open source via le référentiel github TorchNeuron pour les instances Amazon EC2 Trainium2 et Amazon EC2 Trainium3.
Pour en savoir plus sur les accélérateurs TorchNeuron et AWS Trainium, consultez la page AWS Neuron.