Annonce du kit SDK AWS Neuron 2.27.0
AWS annonce aujourd’hui le kit SDK Neuron 2.27.0, qui introduit la prise en charge de Trainium3 UltraServer avec des composants open source étendus. Neuron présente également la suite d’outils Neuron Explorer, Enhanced NKI avec un compilateur NKI open source basé sur MLIR (version bêta privée), la bibliothèque NKI de noyaux optimisés, le support natif PyTorch via TorchNeuron (version bêta privée) et Neuron DRA pour la gestion des ressources native de Kubernetes (version bêta privée).
Ces mises à jour permettent aux cadres de travail standard de fonctionner sans modification sur Trainium, éliminant ainsi les obstacles qui empêchent les chercheurs d’expérimenter et d’innover. Pour les développeurs qui ont besoin d’un contrôle plus approfondi, la version bêta 2 de la Neuron Kernel Interface (NKI) améliorée fournit un accès direct aux optimisations au niveau matériel, permettant aux clients de mettre à l’échelle les charges de travail de l’IA avec des performances améliorées. Si vous souhaitez bénéficier d’un accès anticipé aux nouvelles caractéristiques et améliorations de NKI, vous pouvez rejoindre le programme de la version bêta privée de Neuron.
La nouvelle version du SDK est disponible dans toutes les régions AWS prenant en charge les instances Inferentia et Trainium, offrant des performances et des fonctionnalités de surveillance améliorées pour les charges de travail de machine learning.
Pour en savoir plus, consultez :