Amazon SageMaker model dağıtım yazılımınızı ve sürücü sürümlerinizi özelleştirin
Artık SageMaker'da modelleri dağıtırken ihtiyaçlarınıza en uygun bulut sunucuları tarafından kullanılan yazılım ve sürücü sürümlerini seçebilirsiniz. Amazon SageMaker, her türlü kullanım örneği için en iyi fiyat-performans oranıyla çıkarım taleplerinde bulunmak üzere altyapı modelleri (FM'ler) de dahil makine öğrenimi modellerini dağıtmayı kolaylaştırır.
Önceden müşterilerin, bir uç nokta arkasındaki yönetilen bulut sunucularında SageMaker tarafından tanımlanıp önceden ayarlanmış yazılım ve sürücü sürümlerini kullanması gerekiyordu. Artık müşteriler, gereksinimlerini en iyi karşılayan yazılım ve sürücü sürümlerinin (Nvidia sürücüsü ve CUDA sürümü gibi) kombinasyonunu seçmek için uç noktaları yapılandırırken “InferenceAmiVersion” parametresini belirtebilir. Bu, barındırma ortamınızı ML uygulamalarınızın performans, uyumluluk, ölçeklenebilirlik ve operasyon gereksinimlerini karşılayacak şekilde uyarlamanıza olanak tanır. Bu parametreyi kullanarak, uç noktalarınız için sürücü sürümlerini kendi programınıza göre düşürebilir ve yükseltebilirsiniz.
Bu özellik, SageMaker'ın erişilebildiği tüm bölgelerde kullanılabilir. SageMaker'da model dağıtımı hakkında daha fazla bilgiyi buradan, bu özellik hakkında daha fazla bilgiyi ise belgelerimizden edinebilirsiniz.