Amazon Bedrock, istek üzerine çıkarım fiyatının yarısı karşılığında toplu çıkarım yapabileceğiniz seçkin altyapı modelleri (FM'ler) sunmaya başladı
Geçtiğimiz yıl önizleme aşamasında model değerlendirmesi, deneme ve çevrimdışı işleme için yanıtlar almak amacıyla istemleri toplu şekilde işlemenize olanak veren toplu çıkarım desteğini kullanıma sunmuştuk. Bugünden itibaren Amazon Bedrock, desteklenen modeller için tüm desteklenen AWS bölgelerinde toplu çıkarımı genel kullanıma sunmaya başladı. Birden çok çıkarım isteğini asenkron olarak çalıştırmak ve büyük veri kümelerindeki model çıkarımı performansını iyileştirmek için toplu çıkarımı kullanın. Amazon Bedrock, istek üzerine çıkarım fiyatlandırmasının yarısı karşılığında toplu çıkarım için Anthropic, Meta, Mistral AI ve Amazon gibi önde gelen yapay zeka sağlayıcılarından seçkin altyapı modelleri (FM'ler) sunar. Toplu çıkarımın tamamlanma süresi işin büyüklüğü gibi çeşitli faktörlere bağlıdır, ancak sıradan bir işin 24 saat içinde tamamlanması olasıdır. Toplu çıkarım belgelerimizde daha fazla bilgi edinebilir ve dilerseniz API referansı belgelerimizi de inceleyebilirsiniz.
Amazon Bedrock; AI21 Labs, Anthropic, Cohere, Meta, Mistral AI, Stability AI ve Amazon gibi önde gelen yapay zeka şirketlerinin yüksek performanslı altyapı modellerini (FM) tek bir API ile sunan, tam olarak yönetilen bir hizmettir. Amazon Bedrock ayrıca müşterilerin güvenlik, gizlilik ve sorumlu yapay zekaya sahip üretici yapay zeka uygulamaları oluşturmak için ihtiyaç duyduğu çok sayıda özelliği sunar. Bu özellikler, farklı sektörlerde birden fazla kullanım örneği için özel uygulamalar oluşturmanıza yardımcı olur ve kuruluşların üretici yapay zekayı kullanarak sürekli büyümeyi sağlamasına yardımcı olurken müşteri güvenini ve veri yönetimini olanak tanır.
Daha fazla bilgi için Amazon Bedrock sayfasına gidin ve Amazon Bedrock belgelerini inceleyin.