Amazon Bedrock Guardrails kini mendukung inferensi lintas region
Amazon Bedrock Guardrails mengumumkan dukungan untuk inferensi lintas region, fitur opsional yang memungkinkan pelanggan mengelola lonjakan lalu lintas secara lancar dengan memanfaatkan komputasi di berbagai AWS region.
Bedrock Guardrails menyediakan perlindungan yang dapat dikonfigurasi untuk membantu mendeteksi dan memblokir konten berbahaya dan serangan prompt, menentukan topik untuk menolak dan melarang topik tertentu, dan membantu menyunting informasi identitas pribadi (PII) seperti data pribadi dari prompt input dan respons model. Selain itu, Bedrock Guardrails membantu mendeteksi dan memblokir halusinasi model, dan mengidentifikasi, mengoreksi, dan menjelaskan klaim faktual dalam respons model menggunakan pemeriksaan Penalaran Otomatis. Guardrail dapat diterapkan di semua model pondasi termasuk yang di-host dengan Amazon Bedrock, model yang di-host sendiri, dan model pihak ketiga di luar Bedrock menggunakan ApplyGuardrail API, memberikan pengalaman pengguna yang konsisten dan membantu menstandardisasi kontrol keamanan dan privasi.
Dengan menggunakan inferensi lintas region, pelanggan Amazon Bedrock Guardrails akan dapat memperoleh throughput yang konsisten dan peningkatan ketahanan selama periode permintaan puncak. Dengan ikut serta, pelanggan tidak perlu lagi menghabiskan waktu dan tenaga untuk memprediksi fluktuasi permintaan. Sebaliknya, inferensi lintas region secara dinamis merutekan lalu lintas ke beberapa region, memastikan ketersediaan optimal untuk setiap permintaan dan kinerja yang lebih lancar selama periode penggunaan tinggi.
Tidak ada biaya perutean tambahan untuk menggunakan inferensi lintas region dengan Amazon Bedrock Guardrails. Silakan temukan daftar region yang didukung di sini.
Untuk mempelajari lebih lanjut tentang fitur dan cara memulai, lihat dokumentasi teknis.