Perutean Prompt Cerdas Amazon Bedrock sekarang tersedia dalam pratinjau
Rute Perutean Prompt Cerdas Amazon Bedrock meminta model fondasi yang berbeda dalam keluarga model, sehingga membantu Anda mengoptimalkan kualitas respons dan biaya. Menggunakan teknik pencocokan prompt dan pemahaman model tingkat lanjut, Perutean Prompt Cerdas memprediksi kinerja setiap model untuk setiap permintaan dan secara dinamis merutekan setiap permintaan ke model yang diprediksi kemungkinan besar akan memberikan respons yang diinginkan dengan biaya terendah. Pelanggan dapat memilih dari dua router prompt dalam pratinjau yang meminta rute antara Claude Sonnet 3.5 dan Claude Haiku, atau antara Llama 3.1 8B dan Llama 3.1 70B.
Amazon Bedrock adalah layanan terkelola penuh yang menawarkan pilihan model fondasi beperforma tinggi dari perusahaan AI terkemuka melalui API tunggal. Amazon Bedrock juga menyediakan serangkaian kemampuan luas yang dibutuhkan pelanggan untuk membangun aplikasi AI generatif dengan keamanan, privasi, dan kemampuan AI yang bertanggung jawab. Kemampuan ini membantu Anda membangun aplikasi yang disesuaikan untuk berbagai kasus penggunaan di berbagai industri, membantu organisasi membuka pertumbuhan berkelanjutan dari AI generatif sambil memastikan kepercayaan pelanggan dan tata kelola data. Dengan Perutean Prompt Cerdas, Amazon Bedrock dapat membantu pelanggan membangun aplikasi AI generatif yang hemat biaya dengan kombinasi model fondasi untuk mendapatkan kinerja yang lebih baik dengan biaya lebih rendah dibandingkan dengan model fondasi tunggal.
Selama pratinjau, pelanggan dikenakan harga sesuai permintaan reguler untuk model yang menjadi tujuan rute permintaan. Pelajari selengkapnya dalam dokumentasi dan blog.