Amazon Bedrock toplu çıkarımı artık Converse API formatını destekliyor
Amazon Bedrock toplu çıkarımı artık Converse API'sini bir model çağrı türü olarak destekleyerek toplu iş yüklerinizde tutarlı, modelden bağımsız bir giriş biçimi kullanmanıza olanak tanır.
Önceden toplu çıkarım için InvokeModel API'sini kullanarak modele özgü istek biçimlerine ihtiyaç olurdu. Şimdi, bir toplu çıkarım işi oluştururken, model çağırma türü olarak Converse'yi seçip standart Converse API istek biçimini kullanarak giriş verilerinizi yapılandırabilirsiniz. Converse toplu işlerinin çıktısı, Converse API yanıt biçimini takip eder. Bu özellik sayesinde, hem gerçek zamanlı hem de toplu çıkarım için aynı birleşik istek biçimini kullanabilirsiniz. Bu yöntem istem yönetimini basitleştirir ve modeller arasında geçiş yapmak için gereken çabayı azaltır. Converse model çağırma türünü hem Amazon Bedrock konsolu hem de API aracılığıyla yapılandırabilirsiniz.
Bu özellik, Amazon Bedrock toplu çıkarımını destekleyen tüm AWS Bölgelerinde kullanılabilir. Başlamak için Amazon Bedrock Kullanıcı Kılavuzu'ndaki Toplu çıkarım işi oluşturma ve Toplu çıkarım verilerinizi biçimlendirme ve yükleme bölümüne bakın.