Guardrails สำหรับ Amazon Bedrock

กฎควบคุมระบบสำหรับ Amazon Bedrock ให้การป้องกันที่ปรับแต่งได้เพิ่มเติมนอกเหนือจากการป้องกันดั้งเดิมของ FM ส่งมอบการป้องกันด้านความปลอดภัยที่เป็นหนึ่งในสิ่งที่ดีที่สุดในอุตสาหกรรมโดย:

• การบล็อกเนื้อหาที่เป็นอันตรายมากถึง 85%
• การกรองการตอบสนองภาพหลอนมากกว่า 75% สำหรับ RAG และการสรุปเวิร์กโหลด
• ช่วยให้ลูกค้าสามารถปรับแต่งและใช้การป้องกันความปลอดภัย ความเป็นส่วนตัว และความจริงภายในโซลูชันเดียว

กฎควบคุมระบบสำหรับ Amazon Bedrock ประเมินอินพุตของผู้ใช้และการตอบสนอง FM ตามนโยบายเฉพาะกรณีใช้งาน และให้ชั้นการป้องกันเพิ่มเติมโดยไม่คำนึงถึง FM พื้นฐาน Guardrails สำหรับ Amazon Bedrock เป็นความสามารถของ AI ที่มีความรับผิดชอบเพียงอย่างเดียวที่มอบให้โดยผู้ให้บริการคลาวด์รายใหญ่ที่ช่วยให้ลูกค้าสามารถสร้างและปรับแต่งการป้องกันความปลอดภัย ความเป็นส่วนตัว และความจริงสำหรับแอปพลิเคชัน AI ช่วยสร้างในโซลูชันเดียว และทำงานร่วมกับโมเดลภาษาขนาดใหญ่ (LLM) ทั้งหมดใน Amazon Bedrock รวมถึงรุ่นที่ปรับแต่งได้ ลูกค้าสามารถสร้างกฎควบคุมระบบหลายตัว แต่ละตัวกำหนดค่าด้วยการผสมผสานของตัวควบคุมที่แตกต่างกัน และใช้กฎควบคุมระบบเหล่านี้ในแอปพลิเคชันและกรณีการใช้งานที่แตกต่างกัน นอกจากนี้ยังสามารถผสานรวมกฎควบคุมระบบกับเจ้าหน้าที่และฐานความรู้สำหรับ Amazon Bedrock เพื่อสร้างแอปพลิเคชัน AI ช่วยสร้างซึ่งสอดคล้องกับนโยบาย AI ที่มีความรับผิดชอบของคุณได้อีกด้วย นอกจากนี้ Guardrails ยังนำเสนอ ApplyGuardrail API เพื่อประเมินอินพุตของผู้ใช้และการตอบสนองแบบจำลองที่สร้างโดย FM ที่กำหนดเองหรือบุคคลที่สามนอกจาก Bedrock

องค์กรตระหนักถึงความจำเป็นในการจัดการปฏิสัมพันธ์ภายในแอปพลิเคชัน AI ช่วยสร้างเพื่อประสบการณ์ผู้ใช้ที่ตรงประเด็นและปลอดภัย พวกเขาต้องการปรับแต่งการโต้ตอบเพิ่มเติมเพื่อให้ยังคงอยู่ในหัวข้อที่ตรงประเด็นกับธุรกิจของพวกเขา และสอดคล้องกับนโยบายของบริษัท การใช้คำอธิบายภาษาธรรมชาติสั้น ๆ กฎควบคุมระบบสำหรับ Amazon Bedrock ช่วยให้คุณสามารถกำหนดชุดหัวข้อที่ต้องหลีกเลี่ยงภายในบริบทของแอปพลิเคชันของคุณ กฎควบคุมระบบจะตรวจจับและบล็อกอินพุตของผู้ใช้และการตอบสนอง FM ที่อยู่ในหัวข้อที่ถูกจำกัด ตัวอย่างเช่น สามารถออกแบบผู้ช่วยด้านการธนาคารเพื่อหลีกเลี่ยงหัวข้อที่เกี่ยวข้องกับคำแนะนำการลงทุน

Guardrails สำหรับ Amazon Bedrock มีตัวกรองเนื้อหาที่มีเกณฑ์ที่กำหนดค่าได้เพื่อกรองเนื้อหาที่เป็นอันตรายจากความเกลียดชังดูหมิ่นทางเพศ ความรุนแรง การกระทำผิดประพฤติ (รวมถึงกิจกรรมทางอาญา) และเสริมการป้องกันจากการโจมตีทางพรอมต์ (การฉีดพรอมต์และเจลเบรค) FM ส่วนใหญ่ให้การป้องกันในตัวเพื่อป้องกันการเกิดการตอบสนองที่เป็นอันตราย นอกจากการป้องกันเหล่านี้ กฎควบคุมระบบยังช่วยให้คุณกำหนดค่าเกณฑ์ในหมวดหมู่เนื้อหาต่าง ๆ เพื่อกรองการโต้ตอบที่เป็นอันตราย การเพิ่มความแข็งแรงของตัวกรองจะเพิ่มระดับความแข็งขันของการกรอง กฎควบคุมระบบจะประเมินทั้งอินพุตของผู้ใช้และการตอบสนองของโมเดลโดยอัตโนมัติเพื่อตรวจจับและช่วยป้องกันเนื้อหาที่อยู่ในหมวดหมู่ที่ถูกจำกัด ตัวอย่างเช่น เว็บไซต์อีคอมเมิร์ซสามารถออกแบบผู้ช่วยออนไลน์เพื่อหลีกเลี่ยงการใช้ภาษาที่ไม่เหมาะสม เช่น คำพูดที่แสดงความเกลียดชังหรือหมิ่นประมาท

กฎควบคุมระบบสำหรับ Amazon Bedrock ช่วยให้คุณสามารถตรวจจับข้อมูลละเอียดอ่อนได้ อาทิ ข้อมูลที่ระบุตัวตนของบุคคลได้ (PII) ในอินพุตของผู้ใช้และการตอบสนอง FM คุณสามารถเลือกจากรายการของ PII ที่กำหนดไว้ล่วงหน้าหรือกำหนดประเภทข้อมูลที่ละเอียดอ่อนที่กำหนดเองโดยใช้นิพจน์ปกติ (RegEx) ขึ้นอยู่กับกรณีการใช้งาน คุณสามารถเลือกปฏิเสธอินพุตที่มีข้อมูลที่ละเอียดอ่อนหรือแก้ไขในการตอบสนอง FM ตัวอย่างเช่น คุณสามารถแก้ไขข้อมูลส่วนบุคคลของผู้ใช้ในขณะที่สร้างสรุปจากการถอดเสียงการสนทนาของลูกค้าและเจ้าหน้าที่ในคอลเซ็นเตอร์

Guardrails สำหรับ Amazon Bedrock ช่วยให้คุณสามารถกำหนดค่าชุดคำหรือวลีที่กำหนดเองที่คุณต้องการตรวจจับและบล็อกในการโต้ตอบระหว่างผู้ใช้ของคุณและแอปพลิเคชัน AI แบบสร้าง สิ่งนี้จะช่วยให้คุณตรวจจับและบล็อกความโหดร้ายรวมถึงคำที่กำหนดเองเฉพาะเช่น ชื่อคู่แข่งหรือคำศัพท์อื่น ๆ

องค์กรจำเป็นต้องปรับใช้แอปพลิเคชัน AI ช่วยสร้างจริงและเชื่อถือได้เพื่อรักษาและเพิ่มความไว้วางใจของผู้ใช้ อย่างไรก็ตามแอปพลิเคชันที่สร้างขึ้นโดยใช้ FM สามารถสร้างข้อมูลที่ไม่ถูกต้องเนื่องจากผลลัพธ์เพี้ยน ตัวอย่างเช่น FM สามารถสร้างการตอบสนองที่เบี่ยงเบนจากข้อมูลแหล่งที่มา ผสมผสานข้อมูลหลายชิ้นหรือคิดค้นข้อมูลใหม่ Guardrails สำหรับ Amazon Bedrock รองรับการตรวจสอบกราวด์ตามบริบทเพื่อตรวจจับและกรองผลลัพธ์เพี้ยนออกหากการตอบสนองไม่เป็นพื้นฐาน (เช่น ข้อมูลที่ไม่ถูกต้องตามข้อเท็จจริงหรือข้อมูลใหม่) ในข้อมูลแหล่งที่มาและไม่เกี่ยวข้องกับคำถามหรือคำแนะนำของผู้ใช้ การตรวจสอบกราวด์ตามบริบทสามารถใช้เพื่อตรวจจับผลลัพธ์เพี้ยนสำหรับ RAG การประยุกต์สรุป และการสนทนา ซึ่งข้อมูลแหล่งข้อมูลสามารถใช้เป็นข้อมูลอ้างอิงเพื่อตรวจสอบการตอบสนองของแบบจำลอง