กฎควบคุมระบบสำหรับ Amazon Bedrock สามารถตรวจจับผลลัพธ์เพี้ยนและปกป้องแอปโดยใช้ FM ได้แล้ว

โพสต์บน: 10 ก.ค. 2024

กฎควบคุมระบบสำหรับ Amazon Bedrock ช่วยให้ลูกค้าปรับใช้มาตรการป้องกันตามข้อกำหนดของแอปพลิเคชันและนโยบาย AI ที่มีความรับผิดชอบได้ วันนี้กฎควบคุมระบบได้เพิ่มการตรวจสอบข้อมูลพื้นฐานตามบริบทและเปิดตัว ApplyGuardrail API โฉมใหม่เพื่อสร้างแอปพลิเคชัน AI ช่วยสร้างที่น่าเชื่อถือโดยใช้โมเดลพื้นฐาน (FM)

ลูกค้าใช้ขีดความสามารถเดิมของ FM ในการสร้างการตอบสนองที่สมเหตุสมผล (น่าเชื่อถือ) ที่อิงตามข้อมูลต้นทางของบริษัท อย่างไรก็ตาม เนื่องจาก FM สามารถรวบรวมข้อมูลได้หลายรายการ จึงทำให้มีการสร้างข้อมูลที่ไม่ถูกต้องหรือข้อมูลใหม่ ซึ่งส่งผลกระทบต่อความเสถียรของแอปพลิเคชัน เมื่อใช้การตรวจสอบข้อมูลพื้นฐานตามบริบท กฎควบคุมระบบจึงสามารถตรวจจับผลลัพธ์เพี้ยนในการตอบสนองของโมเดลสำหรับ RAG (การดึงข้อมูลเพื่อการสร้างแบบเสริม) และแอปพลิเคชันเพื่อการสนทนาได้ การป้องกันนี้ช่วยตรวจจับและกรองการตอบสนองที่ไม่ถูกต้องตามข้อเท็จจริงที่อิงตามแหล่งอ้างอิง และไม่เกี่ยวข้องกับการสืบค้นของผู้ใช้ ลูกค้าสามารถกำหนดค่าเกณฑ์ความเชื่อมั่นเพื่อกรองการตอบสนองที่มีความมั่นใจในข้อมูลพื้นฐานหรือความเกี่ยวข้องต่ำได้

เพื่อเป็นการรองรับตัวเลือกแอปพลิเคชันการป้องกันโดยใช้ FM ต่าง ๆ ตอนนี้กฎควบคุมระบบยังรองรับ ApplyGuardrail API เพื่อประเมินอินพุตของผู้ใช้และการตอบสนองของโมเดลสำหรับ FM ที่กำหนดเองและของบุคคลที่สาม ซึ่งเพิ่มเติมจาก FM ที่รองรับอยู่แล้วใน Amazon Bedrock ตอนนี้ ApplyGuardrail API จะเอื้อให้เกิดความปลอดภัยและการกำกับดูแลแบบรวมศูนย์สำหรับแอปพลิเคชัน AI ช่วยสร้างทั้งหมดของคุณ

กฎควบคุมระบบเป็นข้อเสนอเดียวจากผู้ให้บริการระบบคลาวด์รายใหญ่ที่มอบการป้องกันด้านความปลอดภัย ความเป็นส่วนตัว และความจริงในโซลูชันเดียว การตรวจสอบข้อมูลพื้นฐานตามบริบทและ ApplyGuardrail API ได้รับการรองรับใน AWS Region ทุกแห่งที่รองรับกฎควบคุมระบบสำหรับ Amazon Bedrock

หากต้องการเรียนรู้เพิ่มเติมเกี่ยวกับกฎควบคุมระบบสำหรับ Amazon Bedrock โปรดไปที่หน้าฟีเจอร์และอ่านบล็อกข่าว