NVIDIA-GPU-Timeslicing ist jetzt für Bottlerocket verfügbar, um die Effizienz KI/ML-gestützter Workloads zu steigern
Heute hat AWS die Einführung der NVIDIA GPU Time-Slicing-Unterstützung für Bottlerocket begannt gegeben, einem Linux-basiertes Betriebssystem, das speziell für das Hosting von Containern entwickelt wurde, mit Fokus auf Sicherheit, minimalem Platzbedarf und sicheren Updates. Das neue Feature geht die Herausforderung an, die GPU-Auslastung in Mehrmandanten- und ressourcenbeschränkten Umgebungen zu maximieren, indem es eine effizientere gemeinsame Nutzung von GPU-Ressourcen für KI/ML-Workloads ermöglicht, die auf Containern ausgeführt werden.
Durch die Unterteilung der GPU-Verarbeitungszeit in kleinere Intervalle oder „Slices“ ermöglicht die Time-Slicing-Unterstützung von Bottlerocket den zeitgleichen Zugriff mehrerer Aufgaben auf eine einzelne GPU. Bottlerocket-Kunden können damit mehrere KI/ML-Modelle auf einer einzigen GPU ausführen, wodurch die GPU-Auslastung verbessert und eine effizientere Skalierung ihrer Workloads ermöglicht wird.
GPU-Time-Slicing auf Bottlerocket ist jetzt in allen kommerziellen Regionen und in den Regionen AWS GovCloud (USA) verfügbar. Weitere Informationen über das Feature GPU-Time-Slicing-auf Bottlerocket finden Sie auf der Bottlerocket-Entwickler-Website.