Pagar pembatas untuk Amazon Bedrock sekarang dapat mendeteksi halusinasi & melindungi aplikasi menggunakan FM apa pun
Pagar pembatas untuk Amazon Bedrock memungkinkan pelanggan menerapkan perlindungan berdasarkan persyaratan aplikasi mereka dan kebijakan AI yang bertanggung jawab. Hari ini, pagar pembatas menambahkan pemeriksaan landasan kontekstual dan memperkenalkan API ApplyGuardrail baru untuk membangun aplikasi AI generatif yang dapat dipercaya menggunakan model fondasi (FM) apa pun.
Pelanggan mengandalkan kemampuan bawaan FM untuk menghasilkan tanggapan (kredibel) yang berdasar yang didasarkan pada data sumber perusahaan. Namun, FM dapat menggabungkan beberapa bagian informasi, menghasilkan informasi yang salah atau baru - yang berdampak pada keandalan aplikasi. Dengan pemeriksaan landasan kontekstual, Pagar pembatas sekarang dapat mendeteksi halusinasi dalam respons model untuk aplikasi RAG (retrieval-augmented generation) dan percakapan. Perlindungan ini membantu mendeteksi dan memfilter respons yang secara faktual salah berdasarkan sumber referensi, dan tidak relevan dengan permintaan pengguna. Pelanggan dapat mengonfigurasi ambang kepercayaan untuk menyaring respons dengan keyakinan landasan atau relevansi yang rendah.
Selain itu, untuk mendukung pilihan aplikasi pengamanan menggunakan FM yang berbeda, Pagar pembatas sekarang mendukung API ApplyGuardrail untuk mengevaluasi input pengguna dan respons model untuk FM khusus dan pihak ketiga, selain FM yang sudah didukung di Amazon Bedrock. ApplyGuardrail API sekarang memungkinkan keamanan dan tata kelola terpusat untuk semua aplikasi AI generatif Anda.
Pagar pembatas adalah satu-satunya penawaran dari penyedia cloud utama untuk memberikan perlindungan keamanan, privasi, dan kebenaran dalam satu solusi. Pemeriksaan grounding kontekstual dan ApplyGuardrail API didukung di semua AWS region di mana Pagar pembatas untuk Amazon Bedrock didukung.
Untuk mempelajari lebih lanjut tentang Pagar pembatas untuk Amazon Bedrock, kunjungi halaman fitur dan baca blog berita.