คำถามที่พบบ่อยเกี่ยวกับ Amazon Bedrock

เอเจนต์ของ Amazon Bedrock เป็นความสามารถที่มีการจัดการอย่างเต็มรูปแบบซึ่งช่วยให้นักพัฒนาสามารถสร้างแอปพลิเคชันที่ใช้ AI ช่วยสร้างได้ง่ายขึ้น ซึ่งสามารถทำงานที่ซับซ้อนให้เสร็จสิ้นสำหรับกรณีการใช้งานที่หลากหลาย และมอบคำตอบที่ทันสมัยตามแหล่งความรู้ที่เป็นกรรมสิทธิ์ ด้วยเพียงไม่กี่ขั้นตอน เอเจนต์ของ Amazon Bedrock จะแบ่งงานและสร้างแผนการควบคุมระบบโดยอัตโนมัติโดยไม่ต้องเขียนโค้ดเอง เอเจนต์จะเชื่อมต่อกับข้อมูลของบริษัทอย่างปลอดภัยผ่าน API แปลงข้อมูลให้อยู่ในรูปแบบที่เครื่องอ่านได้โดยอัตโนมัติ และเพิ่มคำขอด้วยข้อมูลที่เกี่ยวข้องเพื่อสร้างการตอบสนองที่แม่นยำที่สุด จากนั้นเอเจนต์จะเรียกใช้ API โดยอัตโนมัติเพื่อตอบสนองคำขอของผู้ใช้ ตัวอย่างเช่น บริษัทผู้ผลิตอาจต้องการพัฒนาแอปพลิเคชัน AI ช่วยสร้างที่สร้างระบบอัตโนมัติในการติดตามระดับสินค้าคงคลัง ข้อมูลการขาย ข้อมูลห่วงโซ่อุปทาน และระบบที่สามารถแนะนำจุดที่ควรสั่งซื้อใหม่และปริมาณที่เหมาะสมเพื่อเพิ่มประสิทธิภาพสูงสุดได้ เนื่องจากเป็นความสามารถที่มีการจัดการเต็มรูปแบบ เอเจนต์ของ Amazon Bedrock จึงช่วยขจัดการจัดการการผสานรวมระบบและการจัดเตรียมโครงสร้างพื้นฐานออกไป ซึ่งช่วยให้นักพัฒนาสามารถใช้ AI ช่วยสร้างได้เต็มขอบเขตทั่วทั้งองค์กรของตน

คุณสามารถเชื่อมต่อ FM กับแหล่งที่มาของข้อมูลของบริษัทคุณได้อย่างปลอดภัยโดยใช้เอเจนต์ของ Amazon Bedrock ด้วยฐานความรู้ คุณสามารถใช้เอเจนต์เพื่อให้ FM ใน Amazon Bedrock เข้าถึงข้อมูลเพิ่มเติมที่ช่วยให้โมเดลสร้างการตอบสนองที่เกี่ยวข้อง ตรงตามบริบท และแม่นยำมากขึ้น โดยไม่ต้องฝึก FM ซ้ำอย่างต่อเนื่อง จากการป้อนข้อมูลของผู้ใช้ เอเจนต์จะระบุฐานความรู้ที่เหมาะสม ดึงข้อมูลที่เกี่ยวข้อง และเพิ่มข้อมูลลงในพรอมต์อินพุต ทำให้โมเดลมีข้อมูลบริบทมากขึ้นเพื่อสร้างความสมบูรณ์

เอเจนต์ของ Amazon Bedrock สามารถช่วยคุณเพิ่มประสิทธิภาพการทำงาน ปรับปรุงประสบการณ์การบริการลูกค้า หรือทำให้เวิร์กโฟลว์เป็นอัตโนมัติ (เช่น การประมวลผลการเคลมประกันภัย)

เอเจนต์จะช่วยให้นักพัฒนาจะได้รับการสนับสนุนอย่างราบรื่นสำหรับการตรวจสอบ การเข้ารหัส สิทธิ์การอนุญาตผู้ใช้ การกำหนดเวอร์ชัน และการจัดการการเรียกดำเนินการ API โดยไม่ต้องเขียนโค้ดแบบกำหนดเอง เอเจนต์ของ Amazon Bedrock ทำให้วิศวกรรมการโต้ตอบและการควบคุมระบบงานที่ผู้ใช้ร้องขอเป็นไปโดยอัตโนมัติ นักพัฒนาสามารถนำเทมเพลตพรอมต์จากเอเจนต์ มาใช้เป็นรูปแบบพื้นฐานไว้ปรับแต่งเพิ่มเติมเพื่อเสริมประสบการณ์ของผู้ใช้ให้ดียิ่งขึ้นไปได้ ซึ่งสามารถอัปเดตอินพุตของผู้ใช้ แผนการควบคุมระบบ และการตอบสนอง FM ด้วยการเข้าถึงเทมเพลตพรอมต์นี้ นักพัฒนาจะสามารถควบคุมการควบคุมระบบของเอเจนต์ได้ดีขึ้น

ด้วยเอเจนต์ที่มีการจัดการเต็มรูปแบบ คุณจะไม่ต้องกังวลกับการจัดเตรียมหรือการจัดการโครงสร้างพื้นฐาน และสามารถนำแอปพลิเคชันไปสู่การใช้งานจริงได้เร็วขึ้น

เนื้อหาของลูกค้าใด ๆ ที่ Amazon Bedrock ประมวลผลจะถูกเข้ารหัสและจัดเก็บเป็นข้อมูลที่ไม่ใช้งานไว้ใน AWS Region ที่คุณกำลังใช้ Amazon Bedrock อยู่

ไม่มี จะไม่มีการแชร์อินพุตผู้ใช้และเอาต์พุตโมเดลกับผู้ให้บริการโมเดลใดๆ

Amazon Bedrock นำเสนอความสามารถหลายอย่างเพื่อรองรับข้อกำหนดด้านความปลอดภัยและความเป็นส่วนตัว Amazon Bedrock มีขอบเขตสำหรับมาตรฐานการปฏิบัติตามมาตรฐานทั่วไป เช่น Fedramp Moderate, การควบคุมบริการและองค์กร (SOC) องค์การระหว่างประเทศเพื่อมาตรฐาน (ISO), กฎหมายการพกพาและความรับผิดชอบประกันสถานะ (HIPAA) ที่มีคุณสมบัติเหมาะสม และลูกค้าสามารถใช้ Bedrock ตามกฎระเบียบปกป้องข้อมูลทั่วไป (GDPR) Amazon Bedrock รวมอยู่ในขอบเขตของรายงาน SOC 1, 2, 3 ช่วยให้ลูกค้าได้รับข้อมูลเชิงลึกเกี่ยวกับการควบคุมความปลอดภัยของเรา เราแสดงให้เห็นถึงการปฏิบัติตามข้อกำหนดผ่านการตรวจสอบของบุคคลที่สามอย่างครอบคลุมของการควบคุม AWS ของเรา Amazon Bedrock เป็นหนึ่งในบริการของ AWS ภายใต้การปฏิบัติตามมาตรฐาน ISO 9001, ISO 27001, ISO 27017, ISO 27018, ISO 27701, ISO 22301 และ ISO 20000 Amazon Bedrock ได้รับการรับรอง CSA Security Trust Assurance and Risk (STAR) ระดับ 2 ซึ่งตรวจสอบการใช้แนวทางปฏิบัติที่ดีที่สุดและมาตรการรักษาความปลอดภัยของข้อเสนอ AWS Cloud ด้วย Amazon Bedrock เนื้อหาของคุณจะไม่ถูกใช้เพื่อปรับปรุงโมเดลพื้นฐาน และจะไม่แชร์กับผู้ให้บริการโมเดลรายใด คุณสามารถใช้ AWS PrivateLink เพื่อสร้างการเชื่อมต่อส่วนตัวจาก Amazon VPC ไปยัง Amazon Bedrock โดยไม่ต้องเปิดเผยการรับส่งข้อมูลอินเทอร์เน็ตของคุณ

ไม่ AWS และผู้ให้บริการโมเดลบุคคลที่สามจะไม่ใช้อินพุตหรือเอาต์พุตจาก Amazon Bedrock เพื่อฝึก Amazon Titan หรือโมเดลของบุคคลที่สาม

Amazon Bedrock รองรับ SDK สำหรับบริการรันไทม์ ส่วน SDK สำหรับ iOS และ Android รวมถึง Java, JS, Python, CLI, .Net, Ruby, PHP, Go และ C++ รองรับทั้งการป้อนข้อมูลเสียงพูดและข้อความ

SDK ทั้งหมดรองรับการสตรีม

โปรดดูหน้าค่าบริการ Amazon Bedrock เพื่อดูข้อมูลเกี่ยวกับค่าบริการปัจจุบัน

Amazon Bedrock ได้รับการสนับสนุนภายใต้แผนการสนับสนุนสำหรับนักพัฒนาซอฟต์แวร์ แผนการสนับสนุนธุรกิจ และแผนการสนับสนุนองค์กร ทั้งนี้ขึ้นอยู่กับสัญญา AWS Support ของคุณ

คุณสามารถใช้เมตริก CloudWatch เพื่อติดตามโทเค็นอินพุตและเอาต์พุต

ดAmazon Bedrock ช่วยให้คุณสามารถปรับแต่ง FM แบบส่วนตัว โดยยังคงควบคุมวิธีการใช้และเข้ารหัสข้อมูลของคุณไว้ Amazon Bedrock จะสร้างสำเนา FM พื้นฐานแยกต่างหากและทำการฝึกสำเนาโมเดลส่วนตัวนี้ ข้อมูลของคุณ ได้แก่ พรอมต์ ข้อมูลที่ใช้เพื่อเสริมพรอมต์และการตอบสนอง FM FM แบบกำหนดเองยังคงให้บริการในรีเจี้ยนที่ประมวลผลการเรียกใช้ API

เมื่อคุณปรับแต่งโมเดลอย่างละเอียด ข้อมูลของคุณจะไม่ถูกเปิดเผยต่ออินเทอร์เน็ตสาธารณะ ไม่หลุดออกจากเครือข่าย AWS ซึ่งถูกถ่ายโอนผ่านทาง VPC ของคุณอย่างปลอดภัยและถูกเข้ารหัสในระหว่างการจัดเก็บและการรับส่ง Amazon Bedrock ยังบังคับใช้การควบคุมการเข้าถึง AWS เดียวกับที่คุณมีบนบริการอื่นๆ ของเรา

เราได้เปิดตัวการฝึกเบื้องต้นแบบต่อเนื่องสำหรับโมเดล Amazon Titan Text Express และ Amazon Titan บน Amazon Bedrock การฝึกเบื้องต้นแบบต่อเนื่องช่วยให้คุณฝึกเบื้องต้นต่อไปบนโมเดลฐาน Amazon Titan โดยใช้ข้อมูลที่ไม่มีป้ายกำกับจำนวนมาก การฝึกประเภทนี้จะปรับโมเดลจากคอร์ปัสโดเมนทั่วไปเป็นคอร์ปัสโดเมนที่เฉพาะเจาะจงมากขึ้น เช่น ทางการแพทย์ กฎหมาย การเงิน ฯลฯ ในขณะที่ยังคงรักษาความสามารถส่วนใหญ่ของโมเดลพื้นฐาน Amazon Titan 

องค์กรอาจต้องการสร้างโมเดลสำหรับงานในโดเมนเฉพาะ โมเดลพื้นฐานอาจไม่ได้รับการฝึกฝนเกี่ยวกับคำศัพท์ทางเทคนิคที่ใช้ในหัวข้อเฉพาะนั้น ดังนั้นการปรับแต่งโมเดลพื้นฐานอย่างละเอียดโดยตรงจะต้องใช้บันทึกการฝึกที่มีป้ายกำกับจำนวนมากและระยะเวลาการฝึกที่ยาวนานเพื่อให้ได้ผลลัพธ์ที่ถูกต้อง หากต้องการลดภาระนี้ ลูกค้าสามารถจัดหาข้อมูลที่ไม่มีป้ายกำกับจำนวนมากแทนสำหรับงานการฝึกเบื้องต้นแบบต่อเนื่อง งานนี้จะปรับโมเดลพื้นฐาน Amazon Titan ให้เข้ากับโดเมนใหม่ จากนั้นลูกค้าอาจปรับแต่งโมเดลแบบกำหนดเองที่ฝึกเบื้องต้นใหม่อย่างละเอียดให้เข้ากับงานดาวน์สตรีม โดยใช้บันทึกการฝึกที่มีป้ายกำกับน้อยลงอย่างมีนัยสำคัญและมีระยะเวลาการฝึกน้อยลง 

การฝึกเบื้องต้นแบบต่อเนื่องและการปรับแต่งอย่างละเอียดของ Amazon Bedrock มีข้อกำหนดที่คล้ายกันมาก ด้วยเหตุนี้เราจึงเลือกที่จะสร้าง API แบบรวมที่รองรับทั้งการฝึกเบื้องต้นแบบต่อเนื่องและการปรับแต่งอย่างละเอียด การรวมกันของ API จะช่วยลดเส้นโค้งการเรียนรู้และช่วยให้ลูกค้าใช้ฟีเจอร์มาตรฐาน เช่น Amazon EventBridge เพื่อติดตามงานที่ทำงานยาวนาน การผสานรวม Amazon S3 สำหรับการดึงข้อมูลการฝึก แท็กทรัพยากร และการเข้ารหัสโมเดล 

การฝึกเบื้องต้นแบบต่อเนื่องช่วยให้คุณปรับโมเดล Amazon Titan ให้เข้ากับข้อมูลเฉพาะโดเมนของคุณได้อย่างง่ายดาย ในขณะที่ยังคงรักษาฟังก์ชันการทำงานพื้นฐานของโมเดล Amazon Titan หากต้องการสร้างงานการฝึกเบื้องต้นแบบต่อเนื่อง ให้ไปที่คอนโซล Amazon Bedrock แล้วคลิกที่ "โมเดลแบบกำหนดเอง" คุณจะไปที่หน้าโมเดลที่กำหนดเองที่มีสองแท็บ: โมเดลและงานฝึกฝน แท็บทั้งสองมีเมนูดรอปดาวน์ด้านขวา ซึ่งเรียกว่า “ปรับแต่งโมเดล” เลือก “การฝึกเบื้องต้นแบบต่อเนื่อง” จากเมนูดรอปดาวน์เพื่อไปที่ “สร้างงานการฝึกเบื้องต้นแบบต่อเนื่อง” คุณจะต้องระบุโมเดลต้นทาง ชื่อ การเข้ารหัสโมเดล ข้อมูลอินพุต ไฮเปอร์พารามิเตอร์ และข้อมูลเอาต์พุต นอกจากนี้ คุณยังสามารถจัดหาแท็กพร้อมรายละเอียดเกี่ยวกับบทบาท AWS Identity and Access Management (IAM) และนโยบายทรัพยากรสำหรับงานได้

โมเดลตระกูล Amazon Titan เป็นเอกสิทธิ์เฉพาะของ Amazon Bedrock ที่รวมเอาประสบการณ์ 25 ปีของ Amazon ในการสร้างสรรค์นวัตกรรมด้วย AI และแมชชีนเลิร์นนิงในทุกระดับธุรกิจ Amazon Titan FM มอบตัวเลือกโมเดลรูปภาพ มัลติโมดัล และโมเดลข้อความที่มีประสิทธิภาพสูงให้กับลูกค้าผ่าน API ที่มีการจัดการเต็มรูปแบบ โมเดล Amazon Titan สร้างขึ้นโดย AWS และได้รับการฝึกฝนล่วงหน้าโดยใช้ชุดข้อมูลขนาดใหญ่ ทําให้เป็นโมเดลอเนกประสงค์ที่ทรงพลังซึ่งสร้างขึ้นเพื่อสนับสนุนการใช้งานที่หลากหลาย ในขณะเดียวกันก็สนับสนุนการใช้ AI อย่างมีความรับผิดชอบ ใช้ตามที่สร้างมา หรือปรับแต่งส่วนตัวด้วยข้อมูลของคุณเอง เรียนรู้เพิ่มเติมเกี่ยวกับ Amazon Titan

หากต้องการเรียนรู้เพิ่มเติมเกี่ยวกับข้อมูลที่ประมวลผลเพื่อพัฒนาและฝึก Amazon Titan FM โปรดไปที่หน้าการฝึกโมเดล Amazon Titan และความเป็นส่วนตัว

รูปแบบข้อมูลที่รองรับ ได้แก่ .pdf, .txt, .md, .html, .doc และ .docx, .csv, .xls และ .xlsx จะต้องอัปโหลดไฟล์ไปยัง Amazon S3 โดยชี้ไปที่ตำแหน่งของข้อมูลของคุณใน Amazon S3 และฐานความรู้ของ Amazon Bedrock จะดูแลเวิร์กโฟลว์การนำเข้าทั้งหมดลงในฐานข้อมูลเวกเตอร์ของคุณ

ฐานความรู้ของ Amazon Bedrock มีสามตัวเลือกในการแยกข้อความก่อนแปลงเป็นการฝัง 

1.  ตัวเลือกเริ่มต้น: ฐานความรู้ของ Amazon Bedrock จะแบ่งเอกสารของคุณออกเป็นชังก์โดยอัตโนมัติ ซึ่งแต่ละชังก์มี 200 โทเค็นเพื่อให้แน่ใจว่าประโยคจะไม่แตกตรงกลาง หากเอกสารประกอบด้วยโทเค็นน้อยกว่า 200 โทเค็น เอกสารนั้นก็จะไม่ถูกแยกอีก การทับซ้อนกัน 20% ของโทเค็นจะถูกเก็บไว้ระหว่างสองชิ้นติดต่อกัน

2.  การแบ่งขนาดคงที่: ในตัวเลือกนี้ คุณสามารถระบุจำนวนโทเค็นสูงสุดต่อชังก์และเปอร์เซ็นต์ทับซ้อนกันระหว่างชังก์สำหรับฐานความรู้ของ Amazon Bedrock ดังนั้นเอกสารของคุณจะแบ่งออกเป็นชังก์โดยอัตโนมัติเพื่อให้แน่ใจว่าประโยคจะไม่ขาดตรงกลาง 

3.  สร้างตัวเลือกการฝังหนึ่งรายการต่อเอกสาร: Amazon Bedrock สร้างการฝังหนึ่งรายการต่อเอกสาร ตัวเลือกนี้เหมาะอย่างยิ่งหากคุณประมวลผลเอกสารล่วงหน้า โดยแบ่งเอกสารออกเป็นไฟล์แยกต่างหาก และไม่ต้องการให้ Amazon Bedrock แบ่งเอกสารของคุณอีก

ในปัจจุบัน ฐานความรู้ของ Amazon Bedrock ใช้โมเดลการฝังข้อความ Amazon Titan เวอร์ชันล่าสุดซึ่งมีอยู่ใน Amazon Bedrock โมเดล Titan Text Embeddings V2 รองรับโทเค็น 8K และกว่า 100 ภาษา และสร้างการฝังตัวขนาด 256, 512 และ 1,024 มิติที่ยืดหยุ่นได้ 

ฐานความรู้ของ Amazon Bedrock จะดูแลเวิร์กโฟลว์การนำเข้าทั้งหมดในการแปลงเอกสารของคุณเป็นการฝัง (เวกเตอร์) และจัดเก็บการฝังไว้ในฐานข้อมูลเวกเตอร์เฉพาะทาง  ฐานความรู้ของ Amazon Bedrock รองรับฐานข้อมูลยอดนิยมสำหรับการจัดเก็บเวกเตอร์ รวมถึงกลไกเวกเตอร์สำหรับ Amazon OpenSearch แบบไม่ต้องใช้เซิร์ฟเวอร์, Pinecone, Redis Enterprise Cloud, Amazon Aurora (เร็ว ๆ นี้) และ MongoDB (เร็ว ๆ นี้) หากคุณไม่มีฐานข้อมูลเวกเตอร์ที่มีอยู่ Amazon Bedrock จะสร้างพื้นที่เก็บเวกเตอร์ OpenSearch แบบไม่ต้องใช้เซิร์ฟเวอร์ให้คุณ

คุณสามารถใช้ Amazon EventBridge เพื่อสร้างการซิงค์แบบเป็นระยะหรือตามเหตุการณ์ระหว่าง Amazon S3 กับฐานความรู้ของ Amazon Bedrock ได้ ทั้งนี้ขึ้นอยู่กับกรณีการใช้งานของคุณ

การประเมินโมเดลบน Amazon Bedrock ช่วยให้คุณสามารถประเมิน เปรียบเทียบ และเลือก FM ที่ดีที่สุดสำหรับกรณีการใช้งานของคุณได้ในไม่กี่ขั้นตอน Amazon Bedrock เสนอทางเลือกในการประเมินอัตโนมัติและการประเมินของมนุษย์ คุณสามารถใช้การประเมินอัตโนมัติด้วยเมตริกที่กำหนดไว้ล่วงหน้า เช่น ความแม่นยำ ความทนทาน และความเป็นพิษ คุณสามารถใช้เวิร์กโฟลว์การประเมินของมนุษย์สำหรับเมตริกส่วนตัวหรือแบบกำหนดเอง เช่น ความเป็นมิตร สไตล์ และการจัดตำแหน่งตามลักษณะของแบรนด์ หากต้องการประเมินโดยมนุษย์ คุณสามารถใช้พนักงานในองค์กรของคุณหรือทีมที่จัดการโดย AWS ในฐานะผู้ตรวจสอบได้ การประเมินโมเดลบน Amazon Bedrock มีชุดข้อมูลที่คัดสรรในตัวหรือคุณสามารถนำชุดข้อมูลของคุณเองมาใช้ได้

คุณสามารถประเมินเมตริกที่กำหนดไว้ล่วงหน้าได้หลากหลาย เช่น ความแม่นยำ ความทนทาน และความเป็นพิษโดยใช้การประเมินอัตโนมัติ นอกจากนี้คุณยังสามารถใช้เวิร์กโฟลว์การประเมินของมนุษย์สำหรับเมตริกส่วนตัวหรือแบบกำหนดเอง เช่น ความเป็นมิตร ความเกี่ยวข้อง สไตล์ และการจัดตำแหน่งกับเสียงของแบรนด์

การประเมินอัตโนมัติช่วยให้คุณสามารถจำกัดรายการ FM ที่มีอยู่ได้อย่างรวดเร็วตามเกณฑ์มาตรฐาน (เช่นความแม่นยำความเป็นพิษและความแข็งแกร่ง) การประเมินโดยมนุษย์มักใช้เพื่อประเมินเกณฑ์ที่ละเอียดอ่อนหรืออัตนัยมากขึ้นซึ่งต้องการการตัดสินของมนุษย์และในกรณีที่การประเมินอัตโนมัติอาจไม่มีอยู่จริง (เช่น เสียงของแบรนด์ ความตั้งใจสร้างสรรค์ เป็นมิตร)

คุณสามารถประเมินโมเดล Amazon Bedrock ได้อย่างรวดเร็วสำหรับเมตริก เช่น ความแม่นยำ ความแข็งแกร่ง และความเป็นพิษ โดยใช้ชุดข้อมูลในตัวที่คัดสรรมาแล้ว หรือโดยการนำชุดข้อมูลที่รวดเร็วของคุณเอง หลังจากที่ชุดข้อมูลพรอมต์ของคุณถูกส่งไปยังโมเดล Amazon Bedrock เพื่ออนุมานแล้ว การตอบสนองของโมเดลจะถูกทำคะแนนด้วยอัลกอริทึมการประเมินสำหรับแต่ละมิติ กลไกแบ็กเอนด์จะรวมคะแนนการตอบกลับทันทีแต่ละรายการเป็นคะแนนสรุป และนำเสนอผ่านรายงานแบบภาพที่เข้าใจง่าย

Amazon Bedrock ช่วยให้คุณตั้งค่าเวิร์กโฟลว์การตรวจสอบโดยมนุษย์ได้ในไม่กี่ขั้นตอน และให้พนักงานในองค์กรของคุณหรือใช้ทีมผู้เชี่ยวชาญที่จัดการโดย AWS ในการประเมินโมเดล ผ่านอินเทอร์เฟซที่ใช้งานง่ายของ Amazon Bedrock มนุษย์สามารถตรวจสอบและให้ข้อเสนอแนะเกี่ยวกับการตอบสนองของโมเดลได้โดยคลิกยกนิ้วหรือคว่ำนิ้ว ให้คะแนน 1-5 การเลือกคำตอบที่ดีที่สุดจากหลายคำตอบหรือคำแนะนำในการจัดอันดับ ตัวอย่างเช่น สมาชิกในทีมสามารถแสดงให้เห็นว่าสองโมเดลตอบสนองต่อพรอมต์เดียวกันอย่างไร จากนั้นจะถูกขอให้เลือกโมเดลที่แสดงผลลัพธ์ที่แม่นยำ ตรงประเด็น หรือมีสไตล์มากขึ้น คุณสามารถระบุเกณฑ์การประเมินที่ต้องการสำหรับคุณ โดยปรับแต่งคำแนะนำและปุ่มเพื่อให้ปรากฏใน UI การประเมินสำหรับทีมของคุณ คุณยังสามารถให้คำแนะนำโดยละเอียดพร้อมตัวอย่างและเป้าหมายโดยรวมของการประเมินโมเดล เพื่อให้ผู้ใช้สามารถจัดการทำงานของตนให้สอดคล้องกัน วิธีนี้มีประโยชน์ในการประเมินเกณฑ์อัตนัยที่ต้องตัดสินโดยมนุษย์ หรือความเชี่ยวชาญเฉพาะด้านที่ละเอียดยิ่งขึ้นและไม่สามารถตัดสินได้อย่างง่ายดายโดยการประเมินอัตโนมัติ

กฎควบคุมระบบของ Amazon Bedrock ช่วยให้คุณใช้มาตรการป้องกันสำหรับแอปพลิเคชัน AI ช่วยสร้างของคุณตามกรณีการใช้งานและนโยบาย AI ที่มีความรับผิดชอบ กฎควบคุมระบบช่วยควบคุมปฏิสัมพันธ์ระหว่างผู้ใช้และ FM โดยการกรองเนื้อหาที่ไม่พึงประสงค์และเป็นอันตราย และจะแก้ไขข้อมูลที่ระบุตัวตนของบุคคลได้ (PII) ในไม่ช้า เพิ่มความปลอดภัยของเนื้อหาและความเป็นส่วนตัวในแอปพลิเคชัน AI ช่วยสร้าง คุณสามารถสร้างกฎควบคุมระบบหลายแบบด้วยการกำหนดค่าที่แตกต่างกันซึ่งปรับให้เหมาะกับกรณีการใช้งานเฉพาะ นอกจากนี้ เมื่อใช้กฎควบคุมระบบคุณยังสามารถตรวจสอบและวิเคราะห์อินพุตของผู้ใช้และการตอบสนอง FM ที่อาจละเมิดนโยบายที่ลูกค้ากำหนดได้อย่างต่อเนื่อง

Guardrails ช่วยให้คุณสามารถกำหนดชุดนโยบายเพื่อช่วยปกป้องแอปพลิเคชัน AI ช่วยสร้างของคุณ คุณสามารถกำหนดค่านโยบายต่อไปนี้ในกฎควบคุมระบบได้

• หัวข้อที่ถูกปฏิเสธ: คุณสามารถกำหนดชุดหัวข้อที่ไม่พึงปรารถนาในบริบทของแอปพลิเคชันของคุณ ตัวอย่างเช่น ผู้ช่วยธนาคารออนไลน์สามารถออกแบบมาเพื่อละเว้นจากการให้คำแนะนำการลงทุน
• ตัวกรองเนื้อหา: คุณสามารถกำหนดค่าเกณฑ์เพื่อกรองเนื้อหาที่เป็นอันตรายในหมวดหมู่ความเกลียดชัง ดูหมิ่น เนื้อหาทางเพศ และความรุนแรง
• ตัวกรองคำ: กำหนดชุดคำที่จะบล็อกในอินพุตของผู้ใช้และการตอบสนองที่สร้างโดย FM
• การปกปิด PII: เลือกชุดของ PII ที่สามารถปกปิดได้ในการตอบสนองที่สร้างโดย FM ตามกรณีการใช้งาน Guardrails ยังสามารถช่วยคุณบล็อกอินพุตผู้ใช้หากมี PII
• การตรวจสอบเหตุตามบริบท: ช่วยในการตรวจจับและกรองผลลัพธ์เพี้ยนออกหากการตอบสนองไม่ได้ตั้งอยู่บนข้อมูลแหล่งที่มาและไม่เกี่ยวข้องกับคำถามหรือคำแนะนำของผู้ใช้ (เช่น ข้อมูลที่ไม่ถูกต้องตามข้อเท็จจริงหรือข้อมูลใหม่)

กฎควบคุมระบบสามารถใช้กับโมเดลภาษาขนาดใหญ่ (LLM) ทั้งหมดที่มีอยู่ใน Amazon Bedrock นอกจากนี้ยังสามารถใช้กับ FM ที่ได้รับการปรับแต่งอย่างละเอียดรวมทั้งเจ้าหน้าที่สำหรับ Amazon Bedrock

AWS เสนอการชดเชยทรัพย์สินทางปัญญา (IP) ที่ไม่มีขีดจำกัดสำหรับการเรียกร้องลิขสิทธิ์ที่เกิดจากผลลัพธ์ช่วยสร้างของบริการ AI ช่วยสร้าง Amazon Titan, Amazon CodeWhisperer Professional และบริการอื่น ๆ ที่ระบุไว้ในข้อ 50.10 ของเงื่อนไขการให้บริการ (“บริการ AI ช่วยสร้างที่ได้รับการชดใช้ค่าเสียหาย”) ซึ่งหมายความว่าลูกค้าได้รับการคุ้มครองจากการเรียกร้องของบุคคลที่สามที่กล่าวหาว่าละเมิดลิขสิทธิ์โดยผลลัพธ์ที่สร้างโดยบริการ AI ช่วยสร้างที่ได้รับการชดใช้ค่าเสียหายเพื่อตอบสนองต่ออินพุตหรือข้อมูลอื่น ๆ ที่ลูกค้าให้ไว้ ลูกค้าจะต้องใช้บริการด้วยความรับผิดชอบ เช่น ไม่ป้อนข้อมูลที่ละเมิดหรือปิดใช้งานฟีเจอร์การกรองของบริการ

นอกจากนี้ ค่าชดเชย IP มาตรฐานของเราสำหรับการใช้บริการช่วยปกป้องลูกค้าจากการเรียกร้องของบุคคลที่สามที่กล่าวหาว่าละเมิด IP (รวมถึงการเรียกร้องลิขสิทธิ์) โดยบริการและข้อมูลที่ใช้ในการฝึก

มีนโยบายกฎควบคุมระบบห้ารายการที่มีการป้องกันสำเร็จรูปที่แตกต่างกัน

• ตัวกรองเนื้อหา - ประกอบด้วยทั้งหมด 6 หมวดหมู่ (ความเกลียดชัง หมิ่นประมาทคุกคามทางเพศ ความรุนแรง การประพฤติมิชอบ (รวมถึงพฤติกรรมทางอาญา) และการโจมตีโดยใช้พรอมต์ (การแทรกพรอมต์และเจลเบรค)) แต่ละหมวดหมู่สามารถกำหนดเกณฑ์เพิ่มเติมได้เอง ในแง่ของความเข้มงวดของการกรอง เช่น ต่ำ/กลาง/สูง
• หัวข้อที่ถูกปฏิเสธ - หัวข้อเหล่านี้เป็นหัวข้อแบบกำหนดเองที่ลูกค้าสามารถกำหนดได้โดยใช้คำอธิบายภาษาธรรมชาติที่เรียบง่าย
• ตัวกรองข้อมูลที่ละเอียดอ่อน - มาพร้อมกับ PII สำเร็จรูปกว่า 30 รายการ ซึ่งสามารถปรับแต่งเพิ่มเติมได้โดยการเพิ่มข้อมูลที่เป็นกรรมสิทธิ์ของลูกค้าที่ละเอียดอ่อน
• ตัวกรองคำ - มาพร้อมกับการกรองคำหยาบคายสำเร็จรูปและสามารถปรับแต่งเพิ่มเติมด้วยคำที่กำหนดเอง
• การตรวจสอบเหตุตามบริบทสามารถใช้เพื่อตรวจจับผลลัพธ์เพี้ยนสำหรับ RAG การประยุกต์สรุป และการสนทนา ซึ่งข้อมูลแหล่งข้อมูลสามารถใช้เป็นข้อมูลอ้างอิงเพื่อตรวจสอบการตอบสนองของโมเดล

โมเดลพื้นฐานมีมาตรการป้องกันแบบดั้งเดิมและเป็นการป้องกันเริ่มต้นตามแต่ละโมเดล มาตรการป้องกันแบบดั้งเดิมเหล่านี้ไม่ใช่ส่วนหนึ่งของกฎควบคุมระบบของ Amazon Bedrock กฎควบคุมระบบของ Amazon Bedrock เป็นอีกชั้นของมาตรการป้องกันแบบกำหนดเอง ซึ่งลูกค้าสามารถปรับใช้ได้ตามข้อกำหนดการใช้งานและนโยบาย AI ที่มีความรับผิดชอบ

ในฐานะที่เป็นส่วนหนึ่งของกฎควบคุมระบบของ Amazon Bedrock การตรวจจับ SSN และหมายเลขโทรศัพท์เป็นส่วนหนึ่งของ PII สำเร็จรูปกว่า 30 รายการ รายการทั้งหมดอยู่ที่นี่

มีค่าใช้จ่ายแยกต่างหากสำหรับการใช้กฎควบคุมระบบของ Amazon Bedrock สามารถมีผลได้กับทั้งอินพุตและเอาต์พุต ค่าบริการด้านล่างของหน้าอยู่ที่นี่

ใช่ Amazon Bedrock Guardrail API ช่วยให้ลูกค้าดำเนินการทดสอบอัตโนมัติ “ตัวสร้างกรณีทดสอบ” อาจเป็นสิ่งที่คุณต้องการใช้ก่อนที่จะใช้กฎควบคุมระบบในการผลิต ยังไม่มีตัวสร้างกรณีทดสอบแบบเนทีฟ สำหรับการตรวจการรับส่งข้อมูลการผลิตอย่างต่อเนื่อง กฎควบคุมระบบจะมีข้อมูลบันทึกโดยรายละเอียดของการละเมิดทั้งหมดของแต่ละอินพุตและเอาต์พุตเพื่อให้ลูกค้าสามารถตรวจติดตามทุกอินพุตที่เข้ามาและออกไปจากแอปพลิเคชัน AI ช่วยสร้างของตนได้อย่างละเอียด ข้อมูลบันทึกเหล่านี้สามารถจัดเก็บใน CloudWatch หรือ S3 และสามารถใช้สร้างแดชบอร์ดแบบกำหนดเองตามความต้องการของลูกค้าได้อีกด้วย