Amazon Bedrock sekarang mendukung inferensi Lintas Wilayah Global untuk Anthropic Claude Sonnet 4
Claude Sonnet 4 dari Anthropic sekarang tersedia dengan inferensi lintas Wilayah Global di Amazon Bedrock, jadi sekarang Anda dapat menggunakan profil inferensi Global Claude Sonnet 4 untuk merutekan permintaan inferensi Anda ke AWS Region komersial yang didukung untuk diproses, mengoptimalkan sumber daya yang tersedia, dan mengaktifkan throughput model yang lebih tinggi.
Amazon Bedrock adalah layanan yang komprehensif, aman, dan fleksibel untuk membangun aplikasi dan agen AI generatif. Saat menggunakan inferensi on-demand dan batch di Amazon Bedrock, permintaan Anda mungkin dibatasi oleh kuota layanan atau selama waktu penggunaan puncak. Inferensi lintas wilayah memungkinkan Anda mengelola semburan lalu lintas yang tidak direncanakan secara lancar dengan memanfaatkan komputasi di berbagai AWS Region. Dengan inferensi lintas wilayah, Anda dapat mendistribusikan lalu lintas di beberapa AWS Region, memungkinkan throughput yang lebih tinggi. Sebelumnya, Anda dapat memilih profil inferensi lintas wilayah yang terkait dengan geografi tertentu seperti AS, UE, atau APAC, yang secara otomatis memilih AWS Region komersial optimal dalam geografi tersebut untuk memproses permintaan inferensi Anda. Untuk kasus penggunaan AI generatif yang tidak mengharuskan Anda memilih profil inferensi yang terkait dengan geografi tertentu, Anda sekarang dapat menggunakan profil inferensi lintas wilayah global untuk lebih meningkatkan throughput model Anda.
Untuk mempelajari selengkapnya tentang inferensi lintas Wilayah global di Amazon Bedrock, Anda dapat mengunjungi dokumentasi kami tentang peningkatan throughput dengan inferensi lintas wilayah, lihat Wilayah dan model yang didukung untuk profil inferensi, dan ikuti langkah-langkah yang disebutkan di halaman Gunakan profil inferensi dalam invokasi model untuk memulai.