NVIDIA GPU Time-slicing Kini Tersedia untuk Bottlerocket untuk Meningkatkan Efisiensi Beban Kerja AI/ML
Hari ini, AWS telah mengumumkan pengenalan dukungan NVIDIA GPU Time-slicing untuk Bottlerocket, sistem operasi berbasis Linux yang dirancang khusus untuk kontainer hosting, dengan fokus pada keamanan, jejak minimal, dan pembaruan yang aman. Fitur baru ini mengatasi tantangan memaksimalkan pemanfaatan GPU di lingkungan multi-tenant dan terbatas sumber daya dengan memungkinkan berbagi sumber daya GPU yang lebih efisien untuk beban kerja Kecerdasan Buatan/Machine Learning (AI/ML) yang berjalan pada kontainer.
Dengan membagi waktu pemrosesan GPU menjadi interval atau “irisan” yang lebih kecil, dukungan Bottlerocket untuk Time-slicing memungkinkan beberapa tugas untuk mengakses satu GPU secara bersamaan. Hal ini memungkinkan pelanggan Bottlerocket menjalankan beberapa model AI/ML pada satu GPU, meningkatkan pemanfaatan GPU dan memungkinkan mereka untuk menskalakan beban kerja dengan lebih efektif.
GPU Time-slicing pada Bottlerocket sekarang tersedia di semua Wilayah komersial dan AWS GovCloud (AS). Untuk mempelajari lebih lanjut tentang fitur GPU Time-slicing pada Bottlerocket, kunjungi situs web pengembang Bottlerocket.