Amazon Bedrock Guardrails sekarang mendukung pemeriksaan Penalaran Otomatis (Pratinjau)
Dengan peluncuran perlindungan pemeriksaan Penalaran Otomatis di Amazon Bedrock Guardrails, AWS menjadi penyedia cloud utama pertama dan satu-satunya yang mengintegrasikan penalaran otomatis dalam penawaran AI generatif kami. Pemeriksaan Penalaran Otomatis membantu mendeteksi halusinasi dan memberikan bukti yang dapat diverifikasi bahwa respons model bahasa besar (LLM) akurat. Alat Penalaran Otomatis tidak menebak atau memprediksi akurasi. Sebaliknya, mereka mengandalkan teknik matematika yang baik untuk memverifikasi kepatuhan dengan Kebijakan Penalaran Otomatis yang dibuat oleh para ahli, akibatnya meningkatkan transparansi. Organisasi semakin menggunakan LLM untuk meningkatkan pengalaman pengguna dan mengurangi biaya operasional dengan memungkinkan akses percakapan ke informasi yang relevan dan kontekstual. Namun, LLM rentan terhadap halusinasi. Karena kemampuan LLM untuk menghasilkan jawaban yang menarik, halusinasi ini seringkali sulit dideteksi. Kemungkinan halusinasi dan ketidakmampuan untuk menjelaskan mengapa hal itu terjadi memperlambat adopsi AI generatif untuk kasus penggunaan di mana akurasi sangat penting.
Dengan pemeriksaan Penalaran Otomatis, pakar domain dapat lebih mudah membangun spesifikasi yang disebut Kebijakan Penalaran Otomatis yang merangkum pengetahuan mereka di bidang-bidang seperti alur kerja operasional dan kebijakan SDM. Pengguna Amazon Bedrock Guardrails dapat memvalidasi konten yang dihasilkan terhadap Kebijakan Penalaran Otomatis untuk mengidentifikasi ketidakakuratan dan asumsi yang tidak dinyatakan, dan menjelaskan mengapa pernyataan akurat dengan cara yang dapat diverifikasi. Misalnya, Anda dapat mengonfigurasi pemeriksaan Penalaran Otomatis untuk memvalidasi jawaban pada topik yang ditentukan dalam kebijakan SDM yang kompleks (yang dapat mencakup batasan pada masa jabatan, lokasi, dan kinerja karyawan) dan menjelaskan mengapa jawaban akurat dengan bukti pendukung.
Hubungi tim akun AWS Anda untuk meminta akses ke pemeriksaan Penalaran Otomatis di Amazon Bedrock Guardrails di region AWS AS Timur (Virginia Utara) dan AS Barat (Oregon). Untuk mempelajari lebih lanjut, kunjungi Amazon Bedrock Guardrails dan baca blog Berita.