Amazon SageMaker Çoklu Bağdaştırıcı Model Çıkarımını kullanıma sundu
Amazon SageMaker bugün önceden eğitilmiş dil modellerini kullanan müşteriler için heyecan verici imkanlara erişim sağlayan yeni çoklu bağdaştırıcı çıkarım özelliklerini kullanıma sundu. Bu özellik, yüzlerce ince ayarlı LoRA (Düşük Sıralı Uyarlama) model bağdaştırıcısını tek bir uç noktanın arkasına dağıtmanıza ve talebe göre uygun bağdaştırıcıları milisaniyeler içinde dinamik olarak yüklemenize olanak tanır. Böylece, ortak bir temel model üzerine inşa edilmiş birçok özel LoRA bağdaştırıcısını verimli bir şekilde barındırabilir ve ayrı modeller dağıtmaya kıyasla yüksek aktarım hızı ve maliyet tasarrufundan yararlanabilirsiniz.
Çoklu bağdaştırıcı çıkarımı ile önceden eğitilmiş modelleri farklı iş ihtiyaçlarını karşılayacak şekilde hızla özelleştirebilirsiniz. Örneğin, pazarlama ve SaaS şirketleri, saniyeler içinde özel içerik oluşturmak için her müşterinin benzersiz görüntülerini, iletişim tarzını ve belgelerini kullanarak AI/ML uygulamalarını kişiselleştirebilir. Benzer şekilde, sağlık ve finansal hizmetler gibi sektörlerdeki işletmeler, tıbbi teşhisten dolandırıcılık tespitine kadar çeşitli özel görevlerin üstesinden gelmek için ortak bir LoRA destekli temel modeli, sadece uygun ince ayarlı bağdaştırıcıyı değiştirerek yeniden kullanabilir. Bu esneklik ve verimlilik, kuruluşunuz genelinde güçlü, uyarlanabilir yapay zekayı dağıtmak için yeni fırsatların kapısını açar.
Çoklu bağdaştırıcı çıkarım özelliği şu ülkelerde bölgelerde genel kullanıma sunulmuştur: Asya Pasifik (Tokyo, Seul, Mumbai, Singapur, Sidney, Cakarta), Kanada (Orta), Avrupa (Frankfurt, Stokholm, İrlanda, Londra), Orta Doğu (BAE), Güney Amerika (Sao Paulo), ABD Doğu (Kuzey Virginia, Ohio) ve ABD Batı (Oregon).
Kullanmaya başlamak üzere LoRA'yı kullanma ve model bağdaştırıcılarını yönetme hakkında bilgi edinmek için Amazon SageMaker geliştirici kılavuzuna bakın.