AWS Inferentia

Chip de inferencias para aprendizaje automático de alto rendimiento con diseño personalizado de AWS

AWS Inferentia es un chip de inferencias para aprendizaje automático diseñado con el fin de ofrecer un alto rendimiento con bajo costo. AWS Inferentia será compatible con los marcos de aprendizaje profundo TensorFlow, Apache MXNet y PyTorch, así como con los modelos que usen el formato ONNX.

Hacer predicciones usando un modelo de aprendizaje automático entrenado (un proceso denominado “inferencia”) puede ocasionar hasta el 90 % de los costos informáticos de la aplicación. Si usan Amazon Elastic Inference, los desarrolladores pueden reducir los costos de inferencia hasta un 75 % por medio de vincular la aceleración de inferencias impulsada por GPU a instancias de Amazon EC2 y Amazon SageMaker. Sin embargo, algunas cargas de trabajo de inferencia requieren la totalidad de una GPU, o bien una latencia extremadamente baja. Para resolver este desafío con bajo costo, es necesario contar con un chip de inferencias dedicado.

AWS Inferentia ofrece alto rendimiento de inferencias y baja latencia con un costo extremadamente bajo. Cada chip proporciona un rendimiento de cientos de TOPS (teraoperaciones por segundo) de procesamiento de inferencias para permitirles a los modelos complejos realizar predicciones rápidas. Si se desea alcanzar un nivel de rendimiento superior, se pueden usar varios chips de AWS Inferentia para impulsar miles de TOPS de procesamiento. Será posible utilizar AWS Inferentia con Amazon SageMaker, Amazon EC2 y Amazon Elastic Inference.

Regístrese para recibir notificaciones de disponibilidad del servicio

Para recibir notificaciones acerca de la disponibilidad de AWS Inferentia, regístrese aquí, y le enviaremos un email cuando tengamos más información al respecto.

Product-Page_Standard-Icons_01_Product-Features_SqInk
Reciba actualizaciones de disponibilidad del servicio

Falta poco para la llegada de AWS Inferentia. Regístrese para recibir una notificación cuando haya más información disponible.

Más información 
Product-Page_Standard-Icons_02_Sign-Up_SqInk
Inscríbase para obtener una cuenta gratuita

Obtenga acceso automáticamente a la capa gratuita de AWS. 

Inscribirse 
Product-Page_Standard-Icons_03_Start-Building_SqInk
Comience a crear en la consola

Comience a realizar tareas de aprendizaje automático en la consola de AWS.

Iniciar sesión