Anunciamos AWS Neuron SDK 2.27.0
Hoy, AWS anuncia Neuron SDK 2.27.0, que introduce soporte para Trainium3 UltraServer con componentes de código abierto ampliados. Neuron también presenta el conjunto de herramientas Neuron Explorer, el NKI mejorado con el compilador NKI de código abierto basado en MLIR (beta privada), la biblioteca NKI de núcleos optimizados, el soporte nativo de PyTorch por medio de TorchNeuron (beta privada) y Neuron DRA para la administración de recursos nativos de Kubernetes (beta privada).
Estas actualizaciones permiten que los marcos de trabajo estándar funcionen sin cambios en Trainium, eliminando las barreras para que los investigadores experimenten e innoven. Para los desarrolladores que necesitan un control más profundo, la interfaz Neuron Kernel Interface (NKI) Beta 2 mejorada brinda acceso directo a las optimizaciones a nivel de hardware, lo que permite a los clientes escalar las cargas de trabajo de IA con un rendimiento mejorado. Si le interesa tener acceso anticipado a las nuevas funciones y mejoras de NKI, puede unirse al programa beta privado de Neuron.
La nueva versión del SDK está disponible en todas las regiones de AWS que admiten instancias de Inferentia y Trainium, y ofrece capacidades de supervisión y rendimiento mejorados para las cargas de trabajo de machine learning.
Para obtener más información, consulte: