Amazon SageMaker Neo

Entrene los modelos una única vez, ejecútelos en cualquier lugar con hasta el doble de mejora del rendimiento

Amazon SageMaker Neo les permite a los desarrolladores entrenar modelos de aprendizaje automático una única vez y ejecutarlos en cualquier lugar en la nube y en el borde. Amazon SageMaker Neo optimiza modelos para ejecutarlos hasta el doble de rápido, con menos de un décimo de la cantidad de memoria, sin perder la precisión.

Los desarrolladores invierten mucho tiempo y esfuerzo en entregar modelos de aprendizaje automático precisos que puedan hacer predicciones rápidas y de baja latencia en tiempo real. Esto es principalmente importante para dispositivos de borde en los que la memoria y potencia de procesamiento tienden a estar altamente limitadas, pero la latencia es muy importante. Por ejemplo, los sensores en los vehículos autónomos suelen necesitar procesar datos en una milésima de segundo para ser útiles; en consecuencia, no es posible un viaje de ida y vuelta a la nube. También hay una amplia gama de diferentes plataformas de hardware y procesadores de arquitecturas para dispositivos de borde. Para alcanzar un alto rendimiento, los desarrolladores tienen que invertir semanas o meses en ajustar de manera manual los modelos para cada uno. Asimismo, el proceso complejo de ajuste significa que los modelos rara vez se actualizan tras haber sido implementados en el borde. Los desarrolladores pierden la oportunidad de volver a entrenar y mejorar modelos basados en los datos que recopilan los dispositivos de borde.

Amazon SageMaker Neo optimiza automáticamente los modelos de aprendizaje automático para trabajar hasta dos veces más rápido, sin perder la precisión. Comience con un modelo de aprendizaje automático construido con MXNet, TensorFlow, PyTorch o XGBoost y entrenado con Amazon SageMaker. A continuación, elija la plataforma de hardware de destino de Intel, NVIDIA o ARM. Con un solo clic, SageMaker Neo compilará el modelo entrenado en un archivo ejecutable. El compilador utiliza una red neuronal para detectar y aplicar todas las optimizaciones de rendimiento específicas que harán que su modelo se ejecute de manera más eficiente en la plataforma de hardware de destino. A continuación, se puede implementar el modelo para comenzar a hacer predicciones en la nube o en el borde. La informática local y las capacidades de la inferencia de aprendizaje automático pueden incorporarse al borde con AWS Greengrass. Para hacer las implementaciones de borde más sencillas, AWS Greengrass admite modelos optimizados para Neo a fin de que los modelos se puedan implementar directamente en el borde con actualizaciones inalámbricas.

Neo también se encuentra disponible como código fuente abierto con el nombre de proyecto Neo-AI bajo licencia de Apache Software, lo que permite a los desarrolladores personalizar el software para distintos dispositivos y aplicaciones.

Beneficios

Ejecute modelos de aprendizaje automático con hasta el doble de mejora del rendimiento

Amazon SageMaker Neo optimiza automáticamente los modelos de aprendizaje automático TensorFlow, MXNet, PyTorch y XGBoost para que trabajen hasta dos veces más rápido sin perder la precisión. Con el uso del aprendizaje profundo, SageMaker Neo detecta y aplica optimizaciones de código a su modelo específico y al hardware en el que intenta implementar el modelo. Obtiene los beneficios del ajuste de rendimiento manual sin semanas de esfuerzo.



Reduzca el tamaño del marco hasta 10 veces

Amazon SageMaker Neo reduce el conjunto de operaciones de software en el marco de su modelo solo a aquellos que se requieren para hacer predicciones. Por lo general, esto reduce 10 veces la cantidad de memoria que requiere el marco. Luego el modelo y el marco se compilan en un archivo ejecutable único que puede implementarse en la producción para hacer predicciones rápidas y de baja latencia. 

Ejecute el mismo modelo de aprendizaje automático en varias plataformas de hardware

Amazon SageMaker Neo le permite entrenar su modelo una sola vez y ejecutarlo prácticamente en cualquier parte con un solo archivo ejecutable. Neo sabe cómo optimizar de manera automática su modelo para arquitecturas de procesadores Intel, Nvidia, Arm, Cadence, Qualcomm y Xilinx, lo que facilita la preparación de los modelos para varias plataformas con tan solo unos clics en la consola de Amazon SageMaker. 

Cómo funciona

Product-Page-Diagram_Neo-How-it-Works

Características clave

Utilice el marco de aprendizaje profundo que prefiera

Amazon SageMaker Neo convierte las funciones y operaciones específicas del marco para TensorFlow, MXNet y PyTorch en un solo archivo ejecutable de compilación que puede ejecutarse en cualquier parte. Neo compila y genera los códigos de software necesarios de manera automática.

Operaciones de software sencillas y eficaces

Amazon SageMaker Neo genera un archivo ejecutable que se implementa en instancias de la nube y en dispositivos de borde. El tiempo de ejecución de Neo reduce 10 veces el uso de recursos, como el almacenamiento en plataformas de implementación, y elimina la dependencia de los marcos. A modo de ejemplo, el tiempo de ejecución de Neo ocupa 2,5 MB de almacenamiento, en comparación con las implementaciones que dependen de marcos que pueden ocupar hasta 1 GB de almacenamiento.

Software de código abierto

Neo también esta disponible como código fuente abierto con licencia de Apache Software bajo el nombre de proyecto Neo-AI, lo que permite a los desarrolladores y proveedores de hardware personalizar las aplicaciones y plataformas de hardware, y beneficiarse de la optimización de Neo y de las técnicas de uso de recursos reducidos.  

Product-Page_Standard-Icons_01_Product-Features_SqInk
Consulte las características de Amazon SageMaker Neo

Consulte la documentación para obtener instrucciones sobre cómo utilizar Amazon SageMaker Neo.

Product-Page_Standard-Icons_02_Sign-Up_SqInk
Inscríbase para obtener una cuenta gratuita

Obtenga acceso instantáneo a la capa gratuita de AWS. 

Regístrese 
Product-Page_Standard-Icons_03_Start-Building_SqInk
Comience a crear en la consola

Comience a crear con Amazon SageMaker Neo en la consola de administración de AWS.

Iniciar sesión