Amazon Bedrock Akıllı İstem Yönlendirme
Genel Bakış
Amazon Bedrock Akıllı İstem Yönlendirme, istemleri bir model ailesindeki farklı altyapı modellerine yönlendirir ve yanıt kalitesi ve maliyet açısından optimize etmenize yardımcı olur. Akıllı İstem Yönlendirme, doğruluktan ödün vermeden maliyetleri %30'a kadar azaltabilir.
Daha düşük maliyetle performansı en üst düzeye çıkarın
Geliştiriciler için hangi sorguların daha gelişmiş modeller gerektirdiğini veya daha küçük, daha hızlı ve daha ucuz modellerle çalışabileceğini anlamak zor olabilir. Gelişmiş istem eşleştirme ve model anlama tekniklerini kullanan Akıllı İstem Yönlendirme, her bir istek için her modelin performansını tahmin eder ve her isteği, istenen yanıtı en düşük maliyetle vereceğini tahmin ettiği modele dinamik olarak yönlendirir. Ön izlemede, Claude Sonnet 3.5 ve Claude Haiku veya Llama 3.1 7B ve Llama 3.1 80B arasında yönlendiren iki istem yönlendiricisi arasından seçim yapabilirsiniz.

Geliştirme çabalarınızı azaltın
Uygulamalarınız için istenen performansı ve maliyeti elde etmek için, genellikle karmaşık düzenleme iş akışları geliştirmeniz ve her isteği doğruluk açısından istenen performansı elde etmek için deneyiminize göre bu istek için en uygun modele yönlendirmeniz gerekir. Akıllı İstem Yönlendirme ile farklı modelleri test etmek ve karmaşık düzenleme iş akışları oluşturmak için aylarca çabadan tasarruf edebilirsiniz.

Tamamen izlenebilir isteklerle kolayca hata ayıklama
Her istek tamamen izlenebilir olup, hangi modelin her isteği işlediğini belirlemenizi ve herhangi bir sorunu kolayca anlamanızı ve hataları ayıklamanızı sağlar.

Fiyatlandırma Notları
Ön izleme sırasında, müşterilerden isteklerin yönlendirildiği modellerden isteğe bağlı düzenli fiyatlandırma ücretlendirilir. Farklı model sağlayıcıları için ayrıntılı fiyatlandırma için fiyatlandırma sayfamıza bakın.
