Amazon Bedrock Bilgi Tabanları artık bölgeler arası çıkarımı destekliyor
Amazon Bedrock Bilgi Tabanları, geliştiricilerin farklı AWS Bölgelerinde işlem kullanımıyla trafik artışlarını sorunsuz bir şekilde yönetmelerini sağlayan isteğe bağlı bir özellik olarak bölgeler arası çıkarım desteğini duyurdu.
RetrieveAndGenerate API'yi kullanan Amazon Bedrock Bilgi Tabanı müşterileri, bölgeler arası çıkarımı kullanarak daha yüksek aktarım hızı sınırları ve yoğun talep dönemlerinde daha yüksek dayanıklılık elde edebilir. Bunu kullanmayı seçen geliştiricilerin artık talep dalgalanmalarını tahmin etmek için zaman harcaması ve çaba sarf etmesi gerekmez. Bunun yerine, bölgeler arası çıkarım, trafiği birden çok bölgede dinamik olarak yönlendirerek her istek için optimum erişilebilirlik ve yüksek yoğunluklu kullanım dönemlerinde daha sorunsuz performans sunar. Bölgeler arası çıkarımı kullanmak için müşterilerin, RetrieveAndGenerate API isteğinde "modelARN" olarak bir çıkarım profili belirtmeleri gerekir. Bölgeler arası çıkarımı kullanmanın ek yönlendirme maliyeti yoktur ve talebi oluşturduğunuz bölgeye (kaynak bölge) göre ücretlendirilirsiniz.
Desteklenen modellerin ve önceden tanımlanmış bölgelerin listesini burada bulabilirsiniz. Özellik ve bunu nasıl kullanmaya başlayacağınız hakkında daha fazla bilgi edinmek için Amazon Bedrock belgelerini veya bu blogu inceleyin.