Instances Amazon EC2 G5

Les instances G5 offrent des performances graphiques jusqu'à 3 fois supérieures et un rapport prix/performances jusqu'à 40 % supérieur à celui des instances G4dn. Elles possèdent plus de cœurs de lancer de rayon que n'importe quelle autre instance EC2 basée sur des GPU. En outre, elles disposent de 24 Go de mémoire par GPU et prennent en charge la technologie NVIDIA RTX. Ces instances sont donc idéales pour rendre des scènes réalistes plus rapidement, exécuter de puissantes stations de travail virtuelles et prendre en charge des applications graphiques complexes avec une plus grande fidélité.

Les instances G5 offrent des performances jusqu'à 3 fois supérieures et un rapport prix/performances jusqu'à 40 % plus élevé pour l'inférence par machine learning par rapport aux instances G4dn. Ce sont des solutions hautement performantes et économiques pour les clients cherchant à utiliser des bibliothèques NVIDIA telles que TensorRT, CUDA ou encore cuDNN pour l'exécution de leurs applications de ML.

Les instances G5 offrent un coût d'entraînement jusqu'à 15 % inférieur à celui des instances P3 Amazon EC2. Elles offrent également des performances jusqu'à 3,3 fois supérieures pour l'entraînement ML par rapport aux instances G4dn. Cela en fait une solution rentable pour entraîner des modèles de machine learning à nœud unique modérément complexes. Elle est utile pour le traitement du langage naturel, la vision par ordinateur et les cas d'utilisation des moteurs de recommandation.

Les instances G5 reposent sur AWS Nitro System. Ce système associe un matériel dédié et un hyperviseur léger, qui fournit pratiquement toutes les ressources de calcul et de mémoire du matériel hôte à vos instances pour de meilleures performances globales et une meilleure sécurité. Avec les instances G5, le système Nitro approvisionne les GPU en mode transmission, offrant ainsi des performances comparables à celles du matériel nu.

Les instances G5 sont les premières du cloud à intégrer des GPU NVIDIA A10G Tensor Core. Ces GPU offrent des performances élevées pour les applications gourmandes en ressources graphiques et de machine learning. Chaque instance comprend jusqu'à 8 GPU A10G Tensor Core dotés de 80 cœurs de lancer de rayon et de 24 Go de mémoire par GPU. Elles sont également équipées de 320 cœurs NVIDIA Tensor de troisième génération qui fournissent jusqu'à 250 TOPS, offrant ainsi des performances élevées pour les charges de travail ML.

Les instances G5 proposent aux clients des pilotes NVIDIA RTX pour l'entreprise (Enterprise) et les jeux vidéo sans coût supplémentaire. Les pilotes NVIDIA RTX Enterprise peuvent être utilisés pour fournir des postes de travail virtuels de haute qualité pour un large éventail de flux graphiquement exigeants. Les pilotes NVIDIA pour les jeux vidéo offrent un support graphique et informatique inégalé pour le développement de jeux. Les instances G5 prennent également en charge les bibliothèques CUDA, cuDNN, NVENC, TensorRT, cuBLAS, OpenCL, DirectX 11/12, Vulkan 1.1 et OpenGL 4.5.

Les instances G5 sont dotées d'un débit réseau pouvant atteindre 100 Gbit/s. Cela leur permet de répondre aux besoins en matière de faible latence liés à l'inférence par machine learning et aux applications gourmandes en ressources graphiques. 24 Go de mémoire par GPU ainsi que la prise en charge d'un maximum de 7,6 To de stockage SSD NVMe local permettent le stockage local de modèles et de jeux de données volumineux. Ces capacités sont très utiles pour des entraînements et des inférences de haute performance en matière de machine learning. Les instances G5 peuvent également stocker localement des fichiers vidéo volumineux, ce qui permet d'améliorer les performances graphiques et d'offrir un rendu plus volumineux et plus complexe pour les fichiers vidéo.

Les instances G5 reposent sur AWS Nitro System. Le système est un ensemble étendu de composants qui décharge de nombreuses fonctions de virtualisation traditionnelles sur du matériel et des logiciels dédiés. Cela permet d'offrir des niveaux élevés de performances, de disponibilité et de sécurité, tout en réduisant les frais de virtualisation.