La segmentación de tiempo de GPU de NVIDIA ya está disponible para Bottlerocket para mejorar la eficiencia de las cargas de trabajo de IA/ML
Hoy, AWS ha anunciado la introducción de la compatibilidad con GPU de NVIDIA que reduce el tiempo para Bottlerocket, el sistema operativo basado en Linux diseñado específicamente para alojar contenedores, con un enfoque en la seguridad, el mínimo espacio y las actualizaciones seguras. Esta nueva característica aborda el desafío de maximizar la utilización de la GPU en entornos con múltiples inquilinos y con recursos limitados al permitir un intercambio de recursos de GPU más eficiente para las cargas de trabajo de inteligencia artificial y machine learning (IA/ML) que se ejecutan en contenedores.
Al dividir el tiempo de procesamiento de la GPU en intervalos o “cortes” más pequeños, la compatibilidad de Bottlerocket con la segmentación del tiempo permite que varias tareas accedan a una sola GPU simultáneamente. Esto permite a los clientes de Bottlerocket ejecutar varios modelos de IA/ML en una sola GPU, lo que mejora la utilización de la GPU y les permite escalar sus cargas de trabajo de manera más eficaz.
La segmentación del tiempo de GPU en Bottlerocket ya está disponible en todas las regiones comerciales y de AWS GovCloud (EE. UU.). Para obtener más información sobre la función de segmentación del tiempo de GPU de Bottlerocket, visite el sitio web para desarrolladores de Bottlerocket.