Time-Slicing da GPU NVIDIA já disponível para Bottlerocket para melhorar a eficiência do workload de IA/ML
Hoje, a AWS anunciou a introdução do suporte de divisão de tempo de GPU da NVIDIA para o Bottlerocket, o sistema operacional baseado em Linux criado especificamente para hospedar contêineres, com foco em segurança, espaço mínimo e atualizações seguras. Esse novo atributo aborda o desafio de maximizar a utilização da GPU em ambientes multilocatários e com recursos limitados, permitindo um compartilhamento mais eficiente de recursos de GPU para workloads de Inteligência Artificial/Machine Learning (IA/ML) executados em contêineres.
Ao dividir o tempo de processamento da GPU em intervalos menores ou “fatias”, o suporte do Bottlerocket ao Time-Slicing permite que várias tarefas acessem uma única GPU simultaneamente. Isso permite que os clientes do Bottlerocket executem vários modelos de IA/ML em uma única GPU, melhorando a utilização da GPU e permitindo que eles escalem os workloads com mais eficiência.
O Time-Slicing de GPU no Bottlerocket agora está disponível em todas as regiões comerciais e AWS GovCloud (EUA). Para saber mais sobre o atributo Time-slicing de GPU do Bottlerocket, acesse o site do desenvolvedor do Bottlerocket.