Bottlerocket unterstützt jetzt NVIDIA Multi-Instance-GPUs (MIG) für Kubernetes-Workloads
Heute hat AWS angekündigt, dass Bottlerocket, das Linux-basierte Betriebssystem, das speziell für Container entwickelt wurde, jetzt die Multi-Instance GPU (MIG)-Funktion von NVIDIA unterstützt, mit der Kunden NVIDIA-GPUs in mehrere GPU-Instances auf Kubernetes-Knoten partitionieren können. Diese Funktion ermöglicht es Systemadministratoren, die GPU-Ressourcenausbeutung zu maximieren, indem sie mehrere Workloads gleichzeitig auf einer einzigen GPU ausführen und gleichzeitig die Isolierung zwischen Workloads auf Hardwareebene aufrechterhalten.
Mit MIG-Unterstützung können Kunden die GPU-Ressourcenzuweisung für Workloads optimieren, die die Rechenkapazität der GPU nicht vollständig nutzen, wie z. B. Inferenzaufgaben für maschinelles Lernen. Jede GPU-Partition arbeitet mit vollständigem Speicher und Fehlerisolierung auf Hardwareebene und bietet so eine Trennung des Workloads und eine zuverlässige Leistung.
Die Unterstützung für NVIDIA-Multi-Instance-GPUs in Bottlerocket ist in allen kommerziellen und AWS GovCloud (USA)-Regionen verfügbar, in denen kompatible NVIDIA-GPU-fähige Instances angeboten werden. Weitere Informationen zu MIG mit den Bottlerocket NVIDIA-Varianten finden Sie im Bottlerocket-Benutzerhandbuch. Sie können auch die Bottlerocket-Produktseite besuchen und das Bottlerocket-GitHub-Repository für weitere Informationen durchsuchen.