Pagar Pembatas untuk Amazon Bedrock

Pagar pembatas untuk Amazon Bedrock menyediakan perlindungan tambahan yang dapat disesuaikan di atas perlindungan asli FM, memberikan perlindungan keselamatan yang termasuk yang terbaik di industri dengan:

• Memblokir sebanyak 85% lebih banyak konten berbahaya
• Memfilter lebih dari 75% respons halusinasi untuk beban kerja RAG dan ringkasan
• Memungkinkan pelanggan untuk menyesuaikan dan menerapkan perlindungan keamanan, privasi, dan kebenaran dalam satu solusi

Pagar pembatas untuk Amazon Bedrock mengevaluasi input pengguna dan respons FM berdasarkan kebijakan spesifik kasus penggunaan, dan memberikan lapisan perlindungan tambahan apa pun FM yang mendasarinya. Pagar pembatas untuk Amazon Bedrock adalah satu-satunya kemampuan AI bertanggung jawab yang ditawarkan oleh penyedia cloud utama yang memungkinkan pelanggan membangun dan menyesuaikan perlindungan keamanan, privasi, dan kebenaran untuk aplikasi AI generatif mereka dalam satu solusi, dan ini berfungsi dengan semua model bahasa besar (LLM) di Amazon Bedrock, serta model yang disetel dengan sempurna. Pelanggan dapat membuat beberapa pagar pembatas, mengonfigurasi setiap pagar pembatas dengan kombinasi kontrol berbeda, dan menggunakannya di berbagai aplikasi dan kasus penggunaan. Pagar pembatas juga dapat diintegrasikan dengan Agen dan Basis Pengetahuan untuk Amazon Bedrock untuk membangun aplikasi AI generatif yang selaras dengan kebijakan AI Anda yang bertanggung jawab. Selain itu, Pagar pembatas menawarkan API ApplyGuardrail untuk mengevaluasi input pengguna dan respons model yang dihasilkan oleh FM khusus atau pihak ketiga di luar Bedrock.

Organisasi menyadari perlunya mengelola interaksi dalam aplikasi AI generatif untuk pengalaman pengguna yang relevan dan aman. Mereka ingin lebih menyesuaikan interaksi agar tetap pada topik yang relevan dengan bisnis mereka dan selaras dengan kebijakan perusahaan. Dengan menggunakan deskripsi bahasa alami yang singkat, Pagar Pembatasan untuk Amazon Bedrock memungkinkan Anda menentukan serangkaian topik yang harus dihindari dalam konteks aplikasi Anda. Pagar pembatas mendeteksi dan memblokir input pengguna dan respins FM yang termasuk dalam topik yang dibatasi. Misalnya, asisten perbankan dapat dirancang untuk menghindari topik yang berkaitan dengan nasihat investasi.

Pagar Pembatas untuk Amazon Bedrock menyediakan filter konten dengan ambang batas yang dapat dikonfigurasi untuk memfilter konten berbahaya terkait kebencian, penghinaan, seksual, kekerasan, pelanggaran (termasuk aktivitas kriminal), dan melindungi terhadap serangan prompt (injeksi prompt dan jailbreak). Sebagian besar FM sudah menyediakan perlindungan bawaan untuk mencegah timbulnya respons yang merugikan. Selain perlindungan ini, Pagar Pembatas memungkinkan Anda mengonfigurasi ambang batas di berbagai kategori konten untuk memfilter interaksi berbahaya. Dengan meningkatkan kekuatan filter, agresivitas pemfilteran pun meningkat. Pagar pembatas secara otomatis mengevaluasi input dan model untuk mendeteksi dan membantu mencegah konten yang termasuk dalam kategori terlarang. Misalnya, situs ecommerce dapat merancang asisten online untuk menghindari penggunaan bahasa yang tidak pantas, seperti perkataan yang mendorong kebencian atau penghinaan.

Pagar pembatas untuk Amazon Bedrock memungkinkan Anda mendeteksi konten sensitif, seperti informasi pengenal pribadi (PII) dalam input pengguna dan respons FM. Anda dapat memilih dari daftar PII yang telah ditentukan sebelumnya atau menentukan tipe informasi sensitif kustom menggunakan ekspresi reguler (RegEx). Berdasarkan kasus penggunaannya, Anda dapat secara selektif menolak input yang berisi informasi sensitif atau menyuntingnya dalam respons FM. Misalnya, Anda dapat menyunting informasi pribadi pengguna sambil membuat ringkasan dari transkrip percakapan pelanggan dan agen di pusat panggilan.

Pagar pembatas untuk Amazon Bedrock memungkinkan Anda mengonfigurasi satu set kata atau frasa khusus yang ingin Anda deteksi dan blokir dalam interaksi antara pengguna dan aplikasi AI generatif. Hal ini juga memungkinkan Anda mendeteksi dan memblokir kata-kata kotor serta kata-kata khusus tertentu, seperti nama pesaing atau kata-kata yang menyinggung lainnya.

Organisasi perlu menerapkan aplikasi AI generatif yang jujur dan dapat dipercaya untuk mempertahankan dan menumbuhkan kepercayaan pengguna. Namun, aplikasi yang dibangun menggunakan FM dapat menghasilkan informasi yang salah karena halusinasi. Misalnya, FM dapat menghasilkan respons yang menyimpang dari informasi sumber, menggabungkan beberapa informasi, atau menciptakan informasi baru. Pagar pembatas untuk Amazon Bedrock mendukung pemeriksaan landasan kontekstual untuk mendeteksi dan memfilter halusinasi jika tanggapan tidak didasarkan (misalnya, faktual tidak akurat atau informasi baru) dalam informasi sumber dan tidak relevan dengan permintaan atau instruksi pengguna. Pemeriksaan grounding kontekstual dapat digunakan untuk mendeteksi halusinasi untuk aplikasi RAG, ringkasan, dan percakapan, di mana informasi sumber dapat digunakan sebagai referensi untuk memvalidasi respons model.