กฎควบคุมระบบสำหรับ Amazon Bedrock รองรับการตรวจสอบการให้เหตุผลอัตโนมัติ (เวอร์ชันตัวอย่าง) แล้ว

โพสต์บน: 3 ธ.ค. 2024

การเปิดตัววิธีป้องกันการตรวจสอบการให้เหตุผลอัตโนมัติในกฎควบคุมระบบสำหรับ Amazon Bedrock นี้ทำให้ AWS กลายมาเป็นผู้ให้บริการระบบคลาวด์รายใหญ่รายแรกและรายเดียวที่รวมการให้เหตุผลอัตโนมัติเข้ากับข้อเสนอของ AI ช่วยสร้างของเรา การตรวจสอบการให้เหตุผลอัตโนมัติช่วยตรวจจับผลลัพธ์เพี้ยน และให้หลักฐานที่ตรวจสอบได้ว่าการตอบสนองของโมเดลภาษาขนาดใหญ่ (LLM) ถูกต้อง เครื่องมือการให้เหตุผลอัตโนมัติไม่ได้เป็นการคาดเดาหรือคาดการณ์ความถูกต้อง แต่เป็นการอาศัยเทคนิคทางคณิตศาสตร์ที่สมเหตุสมผล เพื่อตรวจสอบการปฏิบัติตามนโยบายการให้เหตุผลอัตโนมัติที่สร้างขึ้นโดยผู้เชี่ยวชาญ ส่งผลให้เกิดความโปร่งใสเพิ่มมากขึ้น องค์กรต่าง ๆ ใช้ LLM กันมากขึ้นเพื่อปรับปรุงประสบการณ์ของผู้ใช้ และลดต้นทุนการดำเนินงานโดยเปิดใช้งานการโต้ตอบเชิงสนทนาเพื่อสืบค้นข้อมูลที่เกี่ยวข้องและมีบริบท แต่ LLM ก็มีแนวโน้มที่จะให้ผลลัพธ์เพี้ยนเช่นกัน เนื่องจากความสามารถของ LLM ในการสร้างคำตอบที่น่าสนใจ ทำให้ตรวจพบผลลัพธ์เพี้ยนเหล่านี้ได้ยาก ความเป็นไปได้ที่จะเกิดผลลัพธ์เพี้ยนและการขาดความสามารถในการอธิบายว่าทำไมถึงเกิดเหตุการณ์ดังกล่าวขึ้นจะชะลอการใช้ AI ช่วยสร้างสำหรับกรณีการใช้งานที่ให้ความสำคัญในเรื่องของความแม่นยำ

เมื่อทำการตรวจสอบการให้เหตุผลอัตโนมัติ ผู้เชี่ยวชาญโดเมนสามารถสร้างข้อกำหนดที่เรียกว่านโยบายการให้เหตุผลอัตโนมัติได้ง่ายขึ้น โดยนโยบายนี้จะประกอบด้วยความรู้ของผู้เชี่ยวชาญในสาขาต่าง ๆ เช่น เวิร์กโฟลว์การดำเนินงาน และนโยบายด้านทรัพยากรบุคคล ผู้ใช้กฎควบคุมระบบสำหรับ Amazon Bedrock สามารถตรวจสอบเนื้อหาที่สร้างขึ้นตามนโยบายการให้เหตุผลอัตโนมัติ เพื่อระบุความไม่ถูกต้องและสมมติฐานที่ไม่ได้ระบุไว้ และอธิบายว่าทำไมข้อความถึงถูกต้องผ่านวิธีที่ตรวจสอบยืนยันได้ ตัวอย่างเช่น คุณสามารถกำหนดค่าการตรวจสอบการให้เหตุผลอัตโนมัติ เพื่อตรวจสอบคำตอบในหัวข้อที่กำหนดไว้ในนโยบายด้านทรัพยากรบุคคลที่ซับซ้อน (ซึ่งอาจรวมถึงข้อจำกัดในการดำรงตำแหน่ง สถานที่ และผลการปฏิบัติงานของพนักงาน) และอธิบายว่าทำไมคำตอบถึงถูกต้องพร้อมด้วยหลักฐานสนับสนุน

ติดต่อทีมบัญชี AWS ของคุณเพื่อขอเข้าถึงการตรวจสอบการให้เหตุผลอัตโนมัติในกฎควบคุมระบบสำหรับ Amazon Bedrock ใน AWS Region ในสหรัฐอเมริกาฝั่งตะวันออก (เวอร์จิเนียฝั่งเหนือ) และสหรัฐอเมริกาฝั่งตะวันตก (ออริกอน) ไปที่กฎควบคุมระบบสำหรับ Amazon Bedrock และอ่านบล็อกข่าวเพื่อเรียนรู้เพิ่มเติม