Amazon Bedrock Guardrails mengumumkan tingkatan untuk filter konten dan topik yang ditolak
Amazon Bedrock Guardrails mengumumkan tingkatan untuk filter konten dan topik yang ditolak, menawarkan fleksibilitas tambahan dan kemudahan penggunaan untuk memilih fitur dan dukungan bahasa yang diperluas tergantung pada kasus penggunaan pelanggan. Dengan tingkat Standar baru, Guardrails sekarang mendeteksi dan menyaring konten yang tidak diinginkan dengan pemahaman kontekstual yang lebih baik termasuk modifikasi seperti kesalahan ketik, dan dukungan hingga 60 bahasa.
Bedrock Guardrails menyediakan perlindungan yang dapat dikonfigurasi untuk membantu mendeteksi dan memblokir konten berbahaya dan serangan prompt, menentukan topik untuk menolak dan melarang topik tertentu, dan membantu menyunting informasi identitas pribadi (PII) seperti data pribadi dari prompt input dan respons model. Selain itu, Bedrock Guardrails membantu mendeteksi dan memblokir halusinasi model, dan mengidentifikasi, mengoreksi, dan menjelaskan klaim faktual dalam respons model menggunakan pemeriksaan Penalaran Otomatis. Guardrail dapat diterapkan di semua model pondasi termasuk yang di-host dengan Amazon Bedrock, model yang di-host sendiri, dan model pihak ketiga di luar Bedrock menggunakan ApplyGuardrail API, memberikan pengalaman pengguna yang konsisten dan membantu menstandardisasi kontrol keamanan dan privasi.
Tingkat Standar baru meningkatkan filter konten dan perlindungan topik yang ditolak dalam Bedrock Guardrails dengan menawarkan deteksi yang lebih kuat dari variasi prompt dan respons, pertahanan yang diperkuat terhadap semua kategori filter konten termasuk serangan cepat, dan dukungan bahasa yang lebih luas. Filter serangan prompt yang ditingkatkan jelas membedakan antara jailbreak dan injeksi prompt pada backend sambil melindungi terhadap ancaman lain termasuk manipulasi output. Untuk mengakses kemampuan tingkat Standar, pelanggan harus secara eksplisit memilih untuk melakukan inferensi lintas wilayah dengan Bedrock Guardrails.
Untuk mempelajari lebih lanjut, lihat dokumentasi teknis dan halaman produk Bedrock Guardrails.