Instancias G5 de Amazon EC2

Las instancias G5 ofrecen hasta el triple de rendimiento en los gráficos y hasta un 40 % de ahorro que las instancias G4dn. Tienen más núcleos de trazado de rayos que cualquier otra instancia de EC2 basada en GPU, cuentan con 24 GB de memoria por GPU y son compatibles con la tecnología NVIDIA RTX. Esto hace que sean ideales para realizar renderizaciones de escenas realistas con mayor rapidez, para ejecutar potentes estaciones de trabajo virtuales y para admitir con mayor fidelidad aplicaciones con gran cantidad de gráficos.

En comparación con las instancias G4dn, las instancias G5 ofrecen hasta el triple de rendimiento y hasta un 40 % más de ahorro en la inferencia de machine learning. Son una solución rentable y de alto rendimiento para aquellos clientes que quieren usar bibliotecas de NVIDIA como TensorRT, CUDA y cuDNN para ejecutar sus aplicaciones de ML.

Las instancias G5 suponen hasta un 15 % menos en costos de formación que las instancias de P3 de Amazon EC2. Asimismo, también ofrecen un rendimiento hasta 3,3 veces mayor en la formación de ML, en comparación con las instancias G4dn. Esto las convierte en una rentable solución para entrenar modelos de machine learning moderadamente complejos y de un solo nodo para realizar el procesamiento del lenguaje natural, la visión artificial y los casos de uso del motor de recomendación.

Las instancias G5 se basan en sistema Nitro de AWS, una combinación de hardware dedicado e hipervisor ligero que ofrece prácticamente todos los recursos informáticos y de memoria de hardware del host a sus instancias para ofrecer mejores rendimiento y seguridad generales. Con las instancias G5, el sistema Nitro aprovisiona las GPU en un modo de transferencia, lo que proporciona un rendimiento comparable al de un equipo sin sistema operativo.

Las instancias G5 son las primeras en la nube que cuentan con GPU de NVIDIA A10G Tensor Core, ya que proporciona un alto rendimiento para aplicaciones de machine learning con un uso intensivo de gráficos. Cada instancia cuenta con hasta 8 GPU de A10G Tensor Core y, a su vez, tienen 80 núcleos de trazado de rayos y 24 GB de memoria por GPU. También ofrecen 320 núcleos de NVIDIA Tensor Core de tercera generación con hasta 250 TOPS, lo que proporciona un alto rendimiento para las cargas de trabajo de ML.

Las instancias G5 ofrecen controladores de NVIDIA RTX Enterprise y de juegos a los clientes sin costo adicional. Los controladores NVIDIA RTX Enterprise se pueden usar para proporcionar estaciones de trabajo virtuales de alta calidad a una amplia variedad de cargas de trabajo con uso intensivo de gráficos. El controlador de juegos NVIDIA proporciona gráficos incomparables y soporte informático para el desarrollo de juegos. Las instancias G5 también son compatibles con las bibliotecas CUDA, cuDNN, NVENC, TensorRT, cuBLAS, OpenCL, DirectX 11/12, Vulkan 1.1 y OpenGL 4.5.

Las instancias G5 ofrecen hasta 100 Gbps de rendimiento de red, lo que les permite gestionar las necesidades de baja latencia de la inferencia de machine learning y las aplicaciones con un uso intensivo de gráficos. Con los 24 GB de memoria por GPU y la compatibilidad para hasta 7,6 TB de almacenamiento NVMe SSD local, puede almacenar de forma local grandes modelos y conjuntos de datos para la inferencia y el entrenamiento de machine learning de alto rendimiento. Las instancias G5 también pueden almacenar localmente archivos de vídeo grandes, lo que mejora el rendimiento de los gráficos y la capacidad de generar archivos de vídeo más grandes y complejos.

Las instancias G5 se incorporan al sistema Nitro de AWS, que es una amplia colección de bloques funcionales que descargan muchas de las funciones de virtualización tradicionales a los hardware y software dedicados para ofrecer opciones de alto rendimiento, alta disponibilidad y alta seguridad, al tiempo que reduce la sobrecarga de la virtualización.