AI/ML İş Yükü Verimliliğini Artırmak için NVIDIA GPU Zaman Dilimleme, Bottlerocket'a Yönelik Kullanıma Sunuldu

Yayınlanma Tarihi: 23 Eki 2024

AWS bugün; güvenlik, minimum ayak izi ve güvenli güncellemelere odaklanarak container'ları barındırmak için özel olarak tasarlanmış Linux tabanlı işletim sistemi Bottlerocket'a yönelik NVIDIA GPU Zaman dilimleme desteğinin sunulduğunu duyurdu. Bu yeni özellik, container'lar üzerinde çalışan Yapay Zeka/Makine Öğrenimi (AI/ML) iş yükleri için daha verimli GPU kaynak paylaşımı sağlayarak çok kiracılı ve kaynak kısıtlı ortamlarda GPU kullanımını en üst düzeye çıkarma zorluğunu ortadan kaldırıyor.

GPU'nun işlem süresini daha küçük aralıklara veya "dilimlere" bölen Bottlerocket'ın Zaman dilimleme desteği, birden fazla görevin aynı anda tek bir GPU'ya erişmesine olanak tanır. Bu, Bottlerocket müşterilerinin tek bir GPU üzerinde birden fazla AI/ML modelini çalıştırmasını sağlayarak GPU kullanımını iyileştirir ve iş yüklerini daha etkili bir şekilde ölçeklendirmelerine olanak tanır.

Bottlerocket üzerinde GPU Zaman dilimleme artık tüm ticari ve AWS GovCloud (ABD) Bölgelerinde kullanılabilir. Bottlerocket'in GPU Zaman dilimleme özelliği hakkında daha fazla bilgi edinmek için lütfen Bottlerocket geliştirici web sitesini ziyaret edin.