Amazon Bedrock memperluas dukungan untuk Service Quotas
Amazon Bedrock adalah layanan yang dikelola sepenuhnya yang menyediakan akses aman tingkat perusahaan ke model fondasi berkinerja tinggi dari perusahaan AI terkemuka, memungkinkan Anda membangun dan menskalakan aplikasi AI generatif. Pelanggan Amazon Bedrock kini dapat melihat kuota inferensi untuk titik akhir bedrock-mantle melalui AWS Service Quotas. Hal ini memberi pelanggan cara yang familiar dan konsisten untuk melacak batasan untuk titik akhir ini, sama seperti yang sudah mereka lakukan untuk titik akhir bedrock-runtime dan layanan AWS lainnya, serta memberi mereka visibilitas yang jelas ke dalam batasan yang berlaku untuk beban kerja mereka.
Titik akhir bedrock-mantle mendukung OpenAI Responses API, OpenAI Chat Completions API, dan Anthropic Messages API, memungkinkan pelanggan menjalankan aplikasi berbasis OpenAI atau Anthropic yang sudah ada di Amazon Bedrock dengan perubahan kode minimal. AWS Service Quotas kini menampilkan kuota token input per menit dan token output per menit untuk model yang didukung pada titik akhir tersebut.
Dengan peluncuran ini, pelanggan mendapatkan visibilitas mengenai seberapa besar batasan yang mereka miliki pada titik akhir batuan dasar-mantel dan dapat secara proaktif merencanakan skala produksi. Untuk memulai, buka konsol AWS Service Quotas, pilih Amazon Bedrock, dan cari "Bedrock Mantle" untuk melihat kuota Anda saat ini. Untuk meminta peningkatan kuota apa pun, ikuti proses peningkatan batas standar Amazon Bedrock. Dukungan Service Quotas untuk titik akhir bedrock-mantle tersedia di semua AWS Region tempat titik akhir tersebut ditawarkan: AS Timur (Virginia Utara, Ohio), AS Barat (Oregon), Asia Pasifik (Mumbai, Tokyo, Sydney, Jakarta), Eropa (Frankfurt, Irlandia, London, Milan, Stockholm), dan Amerika Selatan (Sao Paulo). Untuk mempelajari lebih lanjut, lihat Kuota untuk Amazon Bedrock.