Amazon Bedrock Guardrails mengumumkan peningkatan batas kuota layanan
Amazon Bedrock Guardrails mengumumkan peningkatan batas kuota layanan default yang memungkinkan Anda meningkatkan skala aplikasi AI generatif untuk lalu lintas yang lebih tinggi. Bedrock Guardrails menyediakan perlindungan yang dapat dikonfigurasi untuk menyaring konten yang tidak diinginkan dan berbahaya di berbagai kategori dan prompt serangan, filter topik untuk menentukan dan melarang topik tertentu, filter informasi sensitif untuk menyunting informasi pengenal pribadi (PII), filter kata untuk memblokir kata-kata tertentu, dan mendeteksi halusinasi model dengan mendeteksi landasan dan relevansi respons model serta mengidentifikasi, mengoreksi, dan menjelaskan klaim faktual dalam respons model menggunakan Penalaran Otomatis. Kebijakan ini dapat disesuaikan dengan kasus penggunaan spesifik Anda dan kebijakan AI yang bertanggung jawab. Guardrail dapat diterapkan di semua model fondasi termasuk yang di-host dengan Amazon Bedrock, model yang di-host sendiri, dan model pihak ketiga yang menggunakan ApplyGuardrail API, memberikan pengalaman pengguna yang konsisten dan menstandardisasi kontrol keselamatan dan privasi.
Mulai hari ini, Bedrock Guardrails memungkinkan Anda untuk meningkatkan skala aplikasi AI generatif Anda untuk beban lalu lintas yang lebih tinggi dengan peningkatan batas kuota layanan yang membantu memproses transaksi per detik (TPS) yang lebih tinggi dan unit teks per detik (TUPS) yang lebih tinggi. Dengan peningkatan ini, Anda sekarang dapat memproses hingga 50 panggilan per detik menggunakan ApplyGuardrail API, peningkatan 2x dari batas sebelumnya 25 panggilan per detik. Filter konten, filter informasi sensitif, dan filter kata kini dapat memproses hingga 200 TUPS, peningkatan 8x dari batas sebelumnya sebesar 25 TUPS.
Batasan ini tersedia di AWS region AS Timur (Virginia Utara) dan AS Barat (Oregon).
Untuk mempelajari lebih lanjut, lihat dokumentasi teknis dan halaman produk Bedrock Guardrails.