Инстансы G5 в Amazon EC2

Инстансы G5 обеспечивают в 3 раза более высокую графическую производительность и на 40 % лучшее соотношение производительности и затрат по сравнению с инстансами G4dn. Они имеют больше ядер для трассировки лучей, чем любой другой инстанс EC2 с графическими процессорами, выделяют по 24 ГБ памяти на каждый графический процессор и поддерживают технологию NVIDIA RTX. Благодаря этому они идеально подходят для более быстрой визуализации реалистичных сцен и способны поддерживать мощные виртуальные рабочие станции и приложения с большой потребностью в обработке графики высокого разрешения.

Инстансы G5 обеспечивают в 3 раза более высокую производительность и на 40 % лучшее соотношение производительности и затрат при работе с машинным обучением по сравнению с инстансами G4dn. Это высокопроизводительное и экономичное решение для клиентов, которые хотят использовать библиотеки NVIDIA, такие как TensorRT, CUDA и cuDNN, для выполнения приложений машинного обучения.

Стоимость обучения на инстансах G5 будет на 15 % ниже, чем на инстансах Amazon EC2 P3. Кроме того, они обеспечивают в 3,3 раза более высокую производительность машинного обучения по сравнению с инстансами G4dn. Это делает их наиболее экономичным решением для обучения моделей машинного обучения умеренной сложности с одним узлом, предназначенных для обработки естественного языка, компьютерного зрения и движков рекомендаций.

Инстансы G5 созданы на базе Системы AWS Nitro, состоящей из выделенного оборудования и компактных гипервизоров, что позволяет использовать на инстансах практически все вычислительные возможности и ресурсы памяти, предоставляемые базовым оборудованием, обеспечивая более высокую производительность и защищенность. При работе с инстансами G5 Система AWS Nitro переводит графические процессоры в режим сквозного пропуска, обеспечивая производительность на уровне решений без операционной системы.

Инстансы G5 впервые в облачной отрасли оснащаются графическими процессорами NVIDIA A10G Tensor Core, которые обеспечивают высокую производительность для приложений с интенсивным использованием графики и машинного обучения. Каждый инстанс предоставляет до 8 графических процессоров A10G Tensor Core с 80 ядрами трассировки лучей и 24 ГБ памяти на каждый графический процессор. Они также имеют 320 ядер NVIDIA Tensor Core третьего поколения, обеспечивающих скорость до 250 TOPS, что обеспечивает высокую производительность для рабочих нагрузок машинного обучения.

Инстансы G5 без дополнительной оплаты предоставляют клиентам драйверы RTX Enterprise и игровые драйверы NVIDIA. Драйверы NVIDIA RTX Enterprise позволяют создавать высококачественные виртуальные рабочие станции для широкого спектра рабочих нагрузок с интенсивным использованием графики. Игровые драйверы NVIDIA обеспечивают непревзойденную графическую и вычислительную поддержку для разработки игр. Также инстансы G5 поддерживают библиотеки CUDA, cuDNN, NVENC, TensorRT, Cublas, OpenCL, DirectX 11/12, Vulkan 1.1 и OpenGL 4.5.

Инстансы G5 предоставляют пропускную способность сети до 100 Гбит/с, что позволяет с низкой задержкой удовлетворять потребности приложений с интенсивным использованием графики и алгоритмов машинного обучения. 24 ГБ памяти на каждый графический процессор и поддержка локального твердотельного накопителя NVMe емкостью до 7,6 ТБ обеспечивают локальное хранение больших моделей и наборов данных для высокопроизводительного машинного обучения и логических выводов. Также инстансы G5 могут локально хранить большие видеофайлы, что повышает производительность обработки графики и позволяет выполнять рендеринг больших и сложных видеофайлов.

Инстансы G5 основаны на Системе AWS Nitro, которая предлагает широкий выбор структурных блоков и позволяет использовать выделенное оборудование и программное обеспечение для выполнения многих традиционных задач виртуализации, что повышает производительность, доступность и безопасность при одновременном сокращении издержек, связанных с виртуализацией.