คำถามที่พบบ่อยเกี่ยวกับ Amazon Bedrock

ข้อมูลทั่วไป

Amazon Bedrock เป็นบริการที่มีการจัดการเต็มรูปแบบซึ่งเสนอโมเดลพื้นฐานที่มีประสิทธิภาพสูง (FM) จากบริษัท AI ควบคู่ไปกับความสามารถอันหลากหลายที่คุณต้องใช้ในการสร้างแอปพลิเคชัน AI ช่วยสร้าง ทำให้การพัฒนานั้นง่ายดายขึ้น พร้อมทั้งยังมีความปลอดภัย เป็นส่วนตัว และ AI ที่วางใจได้ ด้วยความสามารถที่ครอบคลุมของ Amazon Bedrock คุณสามารถทดลองกับหลากหลาย FM ชั้นนำได้อย่างง่ายดาย ปรับแต่งข้อมูลของคุณอย่างเป็นส่วนตัวโดยใช้เทคนิคต่างๆ เช่น การปรับแต่ง และการสร้างการเพิ่มข้อมูลแบบดึงข้อมูล (RAG) และสร้างเอเจนต์ที่ดำเนินงานธุรกิจที่ซับซ้อน ตั้งแต่การจองการเดินทาง การประมวลผลการเคลมประกัน ไปจนถึงการสร้างแคมเปญโฆษณาและการจัดการสินค้าคงคลัง ทั้งหมดนี้โดยไม่ต้องเขียนโค้ดใดๆ ได้ เนื่องจาก Amazon Bedrock ไม่ต้องใช้เซิร์ฟเวอร์ คุณจึงไม่จำเป็นต้องจัดการโครงสร้างพื้นฐานใด ๆ และคุณสามารถผสานรวมและนำความสามารถ AI ช่วยสร้างมาใช้ในแอปพลิเคชันของคุณได้อย่างปลอดภัย โดยใช้บริการ AWS ที่คุณคุ้นเคยอยู่แล้ว

ลูกค้า Amazon Bedrock สามารถเลือกจาก FM ที่ทันสมัยที่สุดที่มีอยู่ในปัจจุบัน ซึ่งรวมถึงโมเดล Anthropic's Claude, AI21 Labs' Jurassic-2, Stability AI's Stable Diffusion, Cohere's Command and Embed, Meta's Llama 2 รวมถึง Amazon Titan Language และ Embedding

มีเหตุผล 5 ประการที่ควรใช้ Amazon Bedrock ในการสร้างแอปพลิเคชันแบบ AI ช่วยสร้าง

  • ทางเลือกของ FM ชั้นนำ: Amazon Bedrock นำเสนอประสบการณ์ที่ใช้งานง่ายสำหรับนักพัฒนาในการทำงานกับ FM ที่มีประสิทธิภาพสูงและหลากหลายจาก Amazon และบริษัท AI ชั้นนำอย่าง AI21 Labs, Anthropic, Cohere, Meta และ Stability AI คุณสามารถทดลองกับ FM ที่หลากหลายในสนามเด็กเล่นได้อย่างรวดเร็ว และใช้ API เดียวสำหรับการอนุมานโดยไม่ต้องคำนึงถึงโมเดลที่คุณเลือก ซึ่งทำให้คุณมีความยืดหยุ่นในการใช้ FM จากผู้ให้บริการรายอื่นๆ และสามารถอัปเดตโมเดลให้เป็นเวอร์ชันล่าสุดเสมอโดยมีการเปลี่ยนแปลงโค้ดน้อยที่สุด
  • การปรับแต่งโมเดลอย่างง่ายด้วยข้อมูลของคุณ: ปรับแต่ง FM แบบส่วนตัวด้วยข้อมูลของคุณเองผ่านทางอินเทอร์เฟซภาพโดยไม่ต้องเขียนโค้ดใดๆ เพียงเลือกชุดข้อมูลการฝึกและการตรวจสอบที่จัดเก็บไว้ใน Amazon Simple Storage Service (Amazon S3) และปรับไฮเปอร์พารามิเตอร์เพื่อทำให้โมเดลมีประสิทธิภาพสูงสุดเท่าที่จะเป็นไปได้ หากจำเป็น
  • เอเจนต์ที่มีการจัดการเต็มรูปแบบและสามารถเรียกดำเนินการ API แบบไดนามิกเพื่อให้ทำงานต่างๆ ได้: สร้างเอเจนต์ที่ทำงานทางธุรกิจที่ซับซ้อน ไม่ว่าจะเป็นการจองการเดินทางและการประมวลผลการเคลมประกันไปจนถึงการสร้างแคมเปญโฆษณา การจัดเตรียมการยื่นภาษี และการจัดการสินค้าคงคลัง ด้วยการเรียกใช้ API และระบบของบริษัทแบบไดนามิก เอเจนต์ที่มีการจัดการเต็มรูปแบบสำหรับ Amazon Bedrock ขยายความสามารถในการให้เหตุผลของ FM เพื่อแยกย่อยงาน สร้างแผนการควบคุมระบบและดำเนินการตามนั้น
  • การสนับสนุนแบบเนทีฟสำหรับ RAG เพื่อขยายประสิทธิภาพของ FM ด้วยข้อมูลที่เป็นกรรมสิทธิ์: ฐานความรู้สำหรับ Amazon Bedrock จะช่วยให้คุณสามารถเชื่อมต่อ FM กับแหล่งที่มาของข้อมูลได้อย่างปลอดภัยเพื่อเพิ่มการดึงข้อมูลจากภายในบริการที่มีการจัดการ ซึ่งจะขยายความสามารถที่ทรงพลังอยู่แล้วของ FM และทำให้มีความรู้มากขึ้นเกี่ยวกับองค์กรและโดเมนที่เฉพาะเจาะจงของคุณ
  • การรับรองความปลอดภัยและการปฏิบัติตามข้อกำหนด: Amazon Bedrock นำเสนอความสามารถหลายอย่างเพื่อรองรับข้อกำหนดด้านความปลอดภัยและความเป็นส่วนตัว Amazon Bedrock มีขอบเขตสำหรับมาตรฐานการปฏิบัติตามมาตรฐานทั่วไป เช่น การควบคุมบริการและองค์กร (SOC) องค์การระหว่างประเทศเพื่อมาตรฐาน (ISO), กฎหมายการพกพาและความรับผิดชอบประกันสถานะ (HIPAA) ที่มีคุณสมบัติเหมาะสม และลูกค้าสามารถใช้ Amazon Bedrock ตามกฎระเบียบปกป้องข้อมูลทั่วไป (GDPR) ได้ Amazon Bedrock ได้รับการรับรอง CSA Security Trust Assurance and Risk (STAR) ระดับ 2 ซึ่งตรวจสอบการใช้แนวทางปฏิบัติที่ดีที่สุดและมาตรการรักษาความปลอดภัยของข้อเสนอ AWS Cloud ด้วย Amazon Bedrock เนื้อหาของคุณจะไม่ถูกใช้เพื่อปรับปรุงโมเดลพื้นฐาน และจะไม่แชร์กับผู้ให้บริการโมเดลรายใด ข้อมูลของคุณใน Amazon Bedrock จะได้รับการเข้ารหัสเสมอเมื่อไม่ได้ใช้งานและขณะรับส่งข้อมูล หรือคุณจะเลือกเข้าโค้ดข้อมูลโดยใช้คีย์ของคุณเองก็ได้ คุณสามารถใช้ AWS PrivateLink กับ Amazon Bedrock เพื่อสร้างการเชื่อมต่อส่วนตัวระหว่าง FM และ Amazon Virtual Private Cloud (Amazon VPC) โดยไม่เปิดเผยทราฟิกของคุณไปยังอินเทอร์เน็ต

ด้วยประสบการณ์แบบไม่ต้องใช้เซิร์ฟเวอร์ของ Amazon Bedrock คุณจึงสามารถเริ่มใช้งานได้อย่างรวดเร็ว ไปยัง Amazon Bedrock ในคอนโซลการจัดการของ AWS และลองใช้ FM ในพื้นที่ทดลอง นอกจากนี้ คุณยังสามารถสร้างเอเจนต์และทดสอบได้ในคอนโซลได้ เมื่อคุณระบุกรณีการใช้งานแล้ว คุณสามารถผสานรวม FM เข้ากับแอปพลิเคชันของคุณได้อย่างง่ายดายโดยใช้เครื่องมือ AWS โดยไม่ต้องจัดการโครงสร้างพื้นฐานใด ๆ

Amazon Bedrock ทำงาน AWS Lambda สำหรับการเรียกใช้การดำเนินการ, Amazon S3 สำหรับการฝึกและข้อมูลการตรวจสอบ และ Amazon CloudWatch สำหรับติดตามตัววัด

คุณสามารถเริ่มต้นใช้งานกรณีใช้งานได้อย่างรวดเร็ว:

  • สร้างเนื้อหาต้นฉบับชิ้นใหม่ เช่น เรื่องสั้น เรียงความ โพสต์บนโซเชียลมีเดีย และสำเนาหน้าเว็บ
  • ค้นหา ค้นพบ และสังเคราะห์ข้อมูลเพื่อตอบคำถามจากคลังข้อมูลขนาดใหญ่
  • สร้างภาพที่สมจริงและเป็นศิลปะของวัตถุ สภาพแวดล้อม และฉากต่าง ๆ จากพรอมต์ภาษา
  • ช่วยให้ลูกค้าค้นพบสิ่งที่พวกเขากำลังมองหาด้วยคำแนะนำผลิตภัณฑ์ที่เกี่ยวข้องและตรงตามบริบทมากกว่าการจับคู่คำ
  • รับบทสรุปเนื้อหาที่เป็นข้อความ เช่น บทความ บล็อกโพสต์ หนังสือ และเอกสาร เพื่อรับข้อมูลสรุปโดยไม่ต้องอ่านเนื้อหาทั้งหมด

สำรวจกรณีการใช้งานของ AI ช่วยสร้างเพิ่มเติม

Amazon Bedrock เสนอพื้นที่ทดลองที่ให้คุณทดลอง FM ต่าง ๆ ได้โดยใช้อินเทอร์เฟซการแชทแบบสนทนา คุณสามารถจัดเตรียมพรอมต์และใช้อินเทอร์เฟซเว็บภายในคอนโซลการจัดการเพื่อจัดเตรียมพรอมต์และใช้โมเดลที่ได้รับการฝึกล่วงหน้าเพื่อสร้างข้อความหรือรูปภาพ หรือใช้โมเดลที่ได้รับการปรับแต่งอย่างละเอียดซึ่งปรับให้เหมาะกับกรณีการใช้งานของคุณได้

สำหรับรายการ AWS Region ที่มี Amazon Bedrock ให้บริการ โปรดดูที่โควตาตำแหน่งข้อมูลของ Amazon Bedrock ในคู่มืออ้างอิง Amazon Bedrock

คุณสามารถปรับแต่ง FM ได้อย่างง่ายดายบน Amazon Bedrock ในการเริ่มต้น ให้จัดเตรียมชุดข้อมูลการฝึกและการตรวจสอบ กำหนดค่าไฮเปอร์พารามิเตอร์ (เหตุการณ์ ขนาดแบตช์ อัตราการเรียนรู้ ขั้นตอนการอุ่นเครื่อง) และส่งงาน ภายใน 2-3 ชั่วโมง จะสามารถเข้าถึงโมเดลที่ปรับแต่งอย่างละเอียดของคุณได้ด้วย API เดียวกัน (InvokeModel)

Amazon Bedrock เป็นบริการที่มีการจัดการที่คุณสามารถใช้เพื่อเข้าถึง FM ได้ คุณสามารถปรับโมเดลอย่างละเอียดและใช้กับ Amazon Bedrock API ได้

เอเจนต์

เอเจนต์ของ Amazon Bedrock เป็นความสามารถที่มีการจัดการอย่างเต็มรูปแบบซึ่งช่วยให้นักพัฒนาสามารถสร้างแอปพลิเคชันที่ใช้ AI ช่วยสร้างได้ง่ายขึ้น ซึ่งสามารถทำงานที่ซับซ้อนให้เสร็จสิ้นสำหรับกรณีการใช้งานที่หลากหลาย และมอบคำตอบที่ทันสมัยตามแหล่งความรู้ที่เป็นกรรมสิทธิ์ ด้วยเพียงไม่กี่ขั้นตอน เอเจนต์ของ Amazon Bedrock จะแบ่งงานและสร้างแผนการควบคุมระบบโดยอัตโนมัติโดยไม่ต้องเขียนโค้ดเอง เอเจนต์จะเชื่อมต่อกับข้อมูลของบริษัทอย่างปลอดภัยผ่าน API แปลงข้อมูลให้อยู่ในรูปแบบที่เครื่องอ่านได้โดยอัตโนมัติ และเพิ่มคำขอด้วยข้อมูลที่เกี่ยวข้องเพื่อสร้างการตอบสนองที่แม่นยำที่สุด จากนั้นเอเจนต์จะเรียกใช้ API โดยอัตโนมัติเพื่อตอบสนองคำขอของผู้ใช้ ตัวอย่างเช่น บริษัทผู้ผลิตอาจต้องการพัฒนาแอปพลิเคชัน AI ช่วยสร้างที่สร้างระบบอัตโนมัติในการติดตามระดับสินค้าคงคลัง ข้อมูลการขาย ข้อมูลห่วงโซ่อุปทาน และระบบที่สามารถแนะนำจุดที่ควรสั่งซื้อใหม่และปริมาณที่เหมาะสมเพื่อเพิ่มประสิทธิภาพสูงสุดได้ เนื่องจากเป็นความสามารถที่มีการจัดการเต็มรูปแบบ เอเจนต์ของ Amazon Bedrock จึงช่วยขจัดการจัดการการผสานรวมระบบและการจัดเตรียมโครงสร้างพื้นฐานออกไป ซึ่งช่วยให้นักพัฒนาสามารถใช้ AI ช่วยสร้างได้เต็มขอบเขตทั่วทั้งองค์กรของตน

คุณสามารถเชื่อมต่อ FM กับแหล่งที่มาของข้อมูลของบริษัทคุณได้อย่างปลอดภัยโดยใช้เจ้าหน้าที่ของ Amazon Bedrock ด้วยฐานความรู้ คุณสามารถใช้เอเจนต์เพื่อให้ FM ใน Amazon Bedrock เข้าถึงข้อมูลเพิ่มเติมที่ช่วยให้โมเดลสร้างการตอบสนองที่เกี่ยวข้อง ตรงตามบริบท และแม่นยำมากขึ้น โดยไม่ต้องฝึก FM ซ้ำอย่างต่อเนื่อง จากการป้อนข้อมูลของผู้ใช้ เอเจนต์จะระบุฐานความรู้ที่เหมาะสม ดึงข้อมูลที่เกี่ยวข้อง และเพิ่มข้อมูลลงในพรอมต์อินพุต ทำให้โมเดลมีข้อมูลบริบทมากขึ้นเพื่อสร้างความสมบูรณ์

เอเจนต์ของ Amazon Bedrock สามารถช่วยคุณเพิ่มประสิทธิภาพ ปรับปรุงประสบการณ์การบริการลูกค้า หรือทำให้งาน DevOps เป็นแบบอัตโนมัติได้

เอเจนต์จะช่วยให้นักพัฒนาจะได้รับการสนับสนุนอย่างราบรื่นสำหรับการตรวจสอบ การเข้ารหัส สิทธิ์การอนุญาตผู้ใช้ และการจัดการการเรียกดำเนินการ API โดยไม่ต้องเขียนโค้ดแบบกำหนดเอง เอเจนต์ของ Amazon Bedrock ทำให้วิศวกรรมการโต้ตอบและการควบคุมระบบงานที่ผู้ใช้ร้องขอเป็นไปโดยอัตโนมัติ นักพัฒนาสามารถนำเทมเพลตพรอมต์จากเอเจนต์ มาใช้เป็นรูปแบบพื้นฐานไว้ปรับแต่งเพิ่มเติมเพื่อเสริมประสบการณ์ของผู้ใช้ให้ดียิ่งขึ้นไปได้ ซึ่งสามารถอัปเดตอินพุตของผู้ใช้ แผนการควบคุมระบบ และการตอบสนอง FM ด้วยการเข้าถึงเทมเพลตพรอมต์นี้ นักพัฒนาจะสามารถควบคุมการควบคุมระบบของเอเจนต์ได้ดีขึ้น

ด้วยเอเจนต์ที่มีการจัดการเต็มรูปแบบ คุณจะไม่ต้องกังวลกับการจัดเตรียมหรือการจัดการโครงสร้างพื้นฐาน และสามารถนำแอปพลิเคชันไปสู่การใช้งานจริงได้เร็วขึ้น

การรักษาความปลอดภัย

เนื้อหาของลูกค้าใด ๆ ที่ Amazon Bedrock ประมวลผลจะถูกเข้ารหัสและจัดเก็บเป็นข้อมูลที่ไม่ใช้งานไว้ใน AWS Region ที่คุณกำลังใช้ Amazon Bedrock อยู่

ไม่มี จะไม่มีการแชร์อินพุตผู้ใช้และเอาต์พุตโมเดลกับผู้ให้บริการโมเดลใดๆ

Amazon Bedrock นำเสนอความสามารถหลายอย่างเพื่อรองรับข้อกำหนดด้านความปลอดภัยและความเป็นส่วนตัว Bedrock มีขอบเขตสำหรับมาตรฐานการปฏิบัติตามมาตรฐานทั่วไป เช่น การควบคุมบริการและองค์กร (SOC) องค์การระหว่างประเทศเพื่อมาตรฐาน (ISO), กฎหมายการพกพาและความรับผิดชอบประกันสถานะ (HIPAA) ที่มีคุณสมบัติเหมาะสม และลูกค้าสามารถใช้ Bedrock ตามกฎระเบียบปกป้องข้อมูลทั่วไป (GDPR) Amazon Bedrock รวมอยู่ในขอบเขตของรายงาน SOC 1, 2, 3 ช่วยให้ลูกค้าได้รับข้อมูลเชิงลึกเกี่ยวกับการควบคุมความปลอดภัยของเรา เราแสดงให้เห็นถึงการปฏิบัติตามข้อกำหนดผ่านการตรวจสอบของบุคคลที่สามอย่างครอบคลุมของการควบคุม AWS ของเรา Amazon Bedrock เป็นหนึ่งในบริการของ AWS ภายใต้การปฏิบัติตามมาตรฐาน ISO 9001, ISO 27001, ISO 27017, ISO 27018, ISO 27701, ISO 22301 และ ISO 20000 Amazon Bedrock ได้รับการรับรอง CSA Security Trust Assurance and Risk (STAR) ระดับ 2 ซึ่งตรวจสอบการใช้แนวทางปฏิบัติที่ดีที่สุดและมาตรการรักษาความปลอดภัยของข้อเสนอ AWS Cloud ด้วย Amazon Bedrock เนื้อหาของคุณจะไม่ถูกใช้เพื่อปรับปรุงโมเดลพื้นฐาน และจะไม่แชร์กับผู้ให้บริการโมเดลรายใด คุณสามารถใช้ AWS PrivateLink เพื่อสร้างการเชื่อมต่อส่วนตัวจาก Amazon VPC ไปยัง Amazon Bedrock โดยไม่ต้องเปิดเผยการรับส่งข้อมูลอินเทอร์เน็ตของคุณ

 

ไม่ AWS และผู้ให้บริการโมเดลบุคคลที่สามจะไม่ใช้อินพุตหรือเอาต์พุตจาก Amazon Bedrock เพื่อฝึก Amazon Titan หรือโมเดลของบุคคลที่สาม

SDK

Amazon Bedrock รองรับ SDK สำหรับบริการรันไทม์ ส่วน SDK สำหรับ iOS และ Android รวมถึง Java, JS, Python, CLI, .Net, Ruby, PHP, Go และ C++ รองรับทั้งการป้อนข้อมูลเสียงพูดและข้อความ

SDK ทั้งหมดรองรับการสตรีม

การเรียกเก็บเงินและการสนับสนุน

หากต้องการข้อมูลค่าบริการปัจจุบัน โปรดดูที่ค่าบริการ Amazon Bedrock

Amazon Bedrock ได้รับการสนับสนุนภายใต้แผนการสนับสนุนสำหรับนักพัฒนาซอฟต์แวร์ แผนการสนับสนุนธุรกิจ และแผนการสนับสนุนองค์กร ทั้งนี้ขึ้นอยู่กับสัญญา AWS Support ของคุณ

คุณสามารถใช้เมตริก CloudWatch เพื่อติดตามโทเค็นอินพุตและเอาต์พุต

การปรับแต่ง

ดAmazon Bedrock ช่วยให้คุณสามารถปรับแต่ง FM แบบส่วนตัว โดยยังคงควบคุมวิธีการใช้และเข้ารหัสข้อมูลของคุณไว้ Amazon Bedrock จะสร้างสำเนา FM พื้นฐานแยกต่างหากและทำการฝึกสำเนาโมเดลส่วนตัวนี้ ข้อมูลของคุณ ได้แก่ พรอมต์ ข้อมูลที่ใช้เพื่อเสริมพรอมต์และการตอบสนอง FM FM แบบกำหนดเองยังคงให้บริการในรีเจี้ยนที่ประมวลผลการเรียกใช้ API

เมื่อคุณปรับแต่งโมเดลอย่างละเอียด ข้อมูลของคุณจะไม่ถูกเปิดเผยต่ออินเทอร์เน็ตสาธารณะ ไม่หลุดออกจากเครือข่าย AWS ซึ่งถูกถ่ายโอนผ่านทาง VPC ของคุณอย่างปลอดภัยและถูกเข้ารหัสในระหว่างการจัดเก็บและการรับส่ง Amazon Bedrock ยังบังคับใช้การควบคุมการเข้าถึง AWS เดียวกับที่คุณมีบนบริการอื่นๆ ของเรา

เราได้เปิดตัวการฝึกเบื้องต้นแบบต่อเนื่องสำหรับโมเดล Amazon Titan Text Express และ Amazon Titan บน Amazon Bedrock การฝึกเบื้องต้นแบบต่อเนื่องช่วยให้คุณฝึกเบื้องต้นต่อไปบนโมเดลฐาน Amazon Titan โดยใช้ข้อมูลที่ไม่มีป้ายกำกับจำนวนมาก การฝึกประเภทนี้จะปรับโมเดลจากคอร์ปัสโดเมนทั่วไปเป็นคอร์ปัสโดเมนที่เฉพาะเจาะจงมากขึ้น เช่น ทางการแพทย์ กฎหมาย การเงิน ฯลฯ ในขณะที่ยังคงรักษาความสามารถส่วนใหญ่ของโมเดลพื้นฐาน Amazon Titan 

องค์กรอาจต้องการสร้างโมเดลสำหรับงานในโดเมนเฉพาะ โมเดลพื้นฐานอาจไม่ได้รับการฝึกฝนเกี่ยวกับคำศัพท์ทางเทคนิคที่ใช้ในหัวข้อเฉพาะนั้น ดังนั้นการปรับแต่งโมเดลพื้นฐานอย่างละเอียดโดยตรงจะต้องใช้บันทึกการฝึกที่มีป้ายกำกับจำนวนมากและระยะเวลาการฝึกที่ยาวนานเพื่อให้ได้ผลลัพธ์ที่ถูกต้อง หากต้องการลดภาระนี้ ลูกค้าสามารถจัดหาข้อมูลที่ไม่มีป้ายกำกับจำนวนมากแทนสำหรับงานการฝึกเบื้องต้นแบบต่อเนื่อง งานนี้จะปรับโมเดลพื้นฐาน Amazon Titan ให้เข้ากับโดเมนใหม่ จากนั้นลูกค้าอาจปรับแต่งโมเดลแบบกำหนดเองที่ฝึกเบื้องต้นใหม่อย่างละเอียดให้เข้ากับงานดาวน์สตรีม โดยใช้บันทึกการฝึกที่มีป้ายกำกับน้อยลงอย่างมีนัยสำคัญและมีระยะเวลาการฝึกน้อยลง 

การฝึกเบื้องต้นแบบต่อเนื่องและการปรับแต่งอย่างละเอียดของ Amazon Bedrock มีข้อกำหนดที่คล้ายกันมาก ด้วยเหตุนี้เราจึงเลือกที่จะสร้าง API แบบรวมที่รองรับทั้งการฝึกเบื้องต้นแบบต่อเนื่องและการปรับแต่งอย่างละเอียด การรวมกันของ API จะช่วยลดเส้นโค้งการเรียนรู้และช่วยให้ลูกค้าใช้ฟีเจอร์มาตรฐาน เช่น Amazon EventBridge เพื่อติดตามงานที่ทำงานยาวนาน การผสานรวม Amazon S3 สำหรับการดึงข้อมูลการฝึก แท็กทรัพยากร และการเข้ารหัสโมเดล 

การฝึกเบื้องต้นแบบต่อเนื่องช่วยให้คุณปรับโมเดล Amazon Titan ให้เข้ากับข้อมูลเฉพาะโดเมนของคุณได้อย่างง่ายดาย ในขณะที่ยังคงรักษาฟังก์ชันการทำงานพื้นฐานของโมเดล Amazon Titan หากต้องการสร้างงานการฝึกเบื้องต้นแบบต่อเนื่อง ให้ไปที่คอนโซล Amazon Bedrock แล้วคลิกที่ "โมเดลแบบกำหนดเอง" คุณจะไปที่หน้าโมเดลที่กำหนดเองที่มีสองแท็บ: โมเดลและงานฝึกฝน แท็บทั้งสองมีเมนูดรอปดาวน์ด้านขวา ซึ่งเรียกว่า “ปรับแต่งโมเดล” เลือก “การฝึกเบื้องต้นแบบต่อเนื่อง” จากเมนูดรอปดาวน์เพื่อไปที่ “สร้างงานการฝึกเบื้องต้นแบบต่อเนื่อง” คุณจะต้องระบุโมเดลต้นทาง ชื่อ การเข้ารหัสโมเดล ข้อมูลอินพุต ไฮเปอร์พารามิเตอร์ และข้อมูลเอาต์พุต นอกจากนี้ คุณยังสามารถจัดหาแท็กพร้อมรายละเอียดเกี่ยวกับบทบาท AWS Identity and Access Management (IAM) และนโยบายทรัพยากรสำหรับงานได้

Amazon Titan

โมเดลตระกูล Amazon Titan เป็นเอกสิทธิ์เฉพาะของ Amazon Bedrock ที่รวมเอาประสบการณ์ 25 ปีของ Amazon ในการสร้างสรรค์นวัตกรรมด้วย AI และแมชชีนเลิร์นนิงในทุกระดับธุรกิจ FM ของ Amazon Titan มอบตัวเลือกโมเดลรูปภาพ มัลติโมดัล และรูปแบบข้อความที่มีประสิทธิภาพสูงให้กับลูกค้าผ่าน API ที่มีการจัดการเต็มรูปแบบ โมเดล Amazon Titan สร้างขึ้นโดย AWS และได้รับการฝึกฝนล่วงหน้าเกี่ยวกับชุดข้อมูลขนาดใหญ่ ทําให้เป็นโมเดลเอนกประสงค์ที่ทรงพลังซึ่งสร้างขึ้นเพื่อสนับสนุนการใช้งานที่หลากหลาย ในขณะเดียวกันก็สนับสนุนการใช้ AI อย่างมีความรับผิดชอบ ใช้ตามที่สร้างมา หรือปรับแต่งอย่างส่วนตัวด้วยข้อมูลของคุณเอง

หากต้องการเรียนรู้เพิ่มเติมเกี่ยวกับข้อมูลที่ประมวลผลเพื่อพัฒนาและฝึก Amazon Titan FM โปรดไปที่การฝึกโมเดล Amazon Titan และความเป็นส่วนตัว

การสร้างการเพิ่มข้อมูลแบบดึงข้อมูล (RAG)

รูปแบบข้อมูลที่รองรับ ได้แก่ .pdf, .txt, .md, .html, .doc และ .docx, .csv, .xls และ .xlsx จะต้องอัปโหลดไฟล์ไปยัง Amazon S3 โดยชี้ไปที่ตำแหน่งของข้อมูลของคุณใน Amazon S3 และฐานความรู้สำหรับ Amazon Bedrock จะดูแลเวิร์กโฟลว์การนำเข้าทั้งหมดลงในฐานข้อมูลเวกเตอร์ของคุณ

ฐานความรู้สำหรับ Amazon Bedrock มีสามตัวเลือกในการแยกข้อความก่อนแปลงเป็นแบบฝังตัว 

1.  ตัวเลือกเริ่มต้น: ฐานความรู้สำหรับ Amazon Bedrock จะแบ่งเอกสารของคุณออกเป็นชังก์โดยอัตโนมัติ ซึ่งแต่ละชังก์มี 200 โทเค็นเพื่อให้แน่ใจว่าประโยคจะไม่แตกตรงกลาง หากเอกสารประกอบด้วยโทเค็นน้อยกว่า 200 โทเค็น เอกสารนั้นก็จะไม่ถูกแยกอีก การทับซ้อนกัน 20% ของโทเค็นจะถูกเก็บไว้ระหว่างสองชิ้นติดต่อกัน

2.  การแบ่งขนาดคงที่: ในตัวเลือกนี้ คุณสามารถระบุจำนวนโทเค็นสูงสุดต่อชังก์และเปอร์เซ็นต์ทับซ้อนกันระหว่างชังก์สำหรับฐานความรู้ของ Amazon Bedrock ดังนั้นเอกสารของคุณจะแบ่งออกเป็นชังก์โดยอัตโนมัติเพื่อให้แน่ใจว่าประโยคจะไม่ขาดตรงกลาง 

3.  สร้างตัวเลือกการฝังหนึ่งรายการต่อเอกสาร: Amazon Bedrock สร้างการฝังหนึ่งรายการต่อเอกสาร ตัวเลือกนี้เหมาะอย่างยิ่งหากคุณประมวลผลเอกสารล่วงหน้า โดยแบ่งเอกสารออกเป็นไฟล์แยกต่างหาก และไม่ต้องการให้ Amazon Bedrock แบ่งเอกสารของคุณอีก
 

ในปัจจุบัน ฐานความรู้สำหรับ Amazon Bedrock ใช้โมเดล Amazon Titan Text Embeddings เวอร์ชันล่าสุดซึ่งมีอยู่ใน Amazon Bedrock โมเดล Amazon Titan Text Embeddings รองรับโทเค็น 8K และกว่า 25 ภาษา และสร้างการฝังตัวขนาด 1,536 มิติได้ 

ฐานความรู้สำหรับ Amazon Bedrock จะดูแลเวิร์กโฟลว์การนำเข้าทั้งหมดในการแปลงเอกสารของคุณเป็นการฝังตัว (เวกเตอร์) และจัดเก็บการฝังตัวไว้ในฐานข้อมูลเวกเตอร์เฉพาะทาง ฐานความรู้สำหรับ Amazon Bedrock รองรับฐานข้อมูลยอดนิยมสำหรับการจัดเก็บเวกเตอร์ รวมถึงกลไกเวกเตอร์สำหรับ Amazon OpenSearch แบบไร้เซิร์ฟเวอร์, Pinecone, Redis Enterprise Cloud, Amazon Aurora (เร็ว ๆ นี้) และ MongoDB (เร็ว ๆ นี้) หากคุณไม่มีฐานข้อมูลเวกเตอร์ที่มีอยู่ Amazon Bedrock จะสร้างพื้นที่เก็บเวกเตอร์ OpenSearch แบบไร้เซิร์ฟเวอร์ให้คุณ

คุณสามารถใช้ Amazon EventBridge เพื่อสร้างการซิงค์แบบเป็นระยะหรือตามเหตุการณ์ระหว่าง Amazon S3 กับฐานความรู้สำหรับ Amazon Bedrock ทั้งนี้ขึ้นอยู่กับกรณีการใช้งานของคุณ

การประเมินโมเดล

การประเมินโมเดลบน Amazon Bedrock ช่วยให้คุณสามารถประเมิน เปรียบเทียบ และเลือก FM ที่ดีที่สุดสำหรับกรณีการใช้งานของคุณได้ในไม่กี่ขั้นตอน Amazon Bedrock เสนอทางเลือกในการประเมินอัตโนมัติและการประเมินของมนุษย์ คุณสามารถใช้การประเมินอัตโนมัติด้วยเมตริกที่กำหนดไว้ล่วงหน้า เช่น ความแม่นยำ ความทนทาน และความเป็นพิษ คุณสามารถใช้เวิร์กโฟลว์การประเมินของมนุษย์สำหรับเมตริกส่วนตัวหรือแบบกำหนดเอง เช่น ความเป็นมิตร สไตล์ และการจัดตำแหน่งตามลักษณะของแบรนด์ หากต้องการประเมินโดยมนุษย์ คุณสามารถใช้พนักงานในองค์กรของคุณหรือทีมที่จัดการโดย AWS ในฐานะผู้ตรวจสอบได้ การประเมินโมเดลบน Amazon Bedrock มีชุดข้อมูลที่คัดสรรในตัวหรือคุณสามารถนำชุดข้อมูลของคุณเองมาใช้ได้

คุณสามารถประเมินเมตริกที่กำหนดไว้ล่วงหน้าได้หลากหลาย เช่น ความแม่นยำ ความทนทาน และความเป็นพิษโดยใช้การประเมินอัตโนมัติ นอกจากนี้คุณยังสามารถใช้เวิร์กโฟลว์การประเมินของมนุษย์สำหรับเมตริกส่วนตัวหรือแบบกำหนดเอง เช่น ความเป็นมิตร ความเกี่ยวข้อง สไตล์ และการจัดตำแหน่งกับเสียงของแบรนด์

การประเมินอัตโนมัติช่วยให้คุณสามารถจำกัดรายการ FM ที่มีอยู่ได้อย่างรวดเร็วตามเกณฑ์มาตรฐาน (เช่นความแม่นยำความเป็นพิษและความแข็งแกร่ง) การประเมินโดยมนุษย์มักใช้เพื่อประเมินเกณฑ์ที่ละเอียดอ่อนหรืออัตนัยมากขึ้นซึ่งต้องการการตัดสินของมนุษย์และในกรณีที่การประเมินอัตโนมัติอาจไม่มีอยู่จริง (เช่น เสียงของแบรนด์ ความตั้งใจสร้างสรรค์ เป็นมิตร)

คุณสามารถประเมินโมเดล Amazon Bedrock ได้อย่างรวดเร็วสำหรับเมตริก เช่น ความแม่นยำ ความแข็งแกร่ง และความเป็นพิษ โดยใช้ชุดข้อมูลในตัวที่คัดสรรมาแล้ว หรือโดยการนำชุดข้อมูลที่รวดเร็วของคุณเอง หลังจากที่ชุดข้อมูลพรอมต์ของคุณถูกส่งไปยังโมเดล Amazon Bedrock เพื่ออนุมานแล้ว การตอบสนองของโมเดลจะถูกทำคะแนนด้วยอัลกอริทึมการประเมินสำหรับแต่ละมิติ กลไกแบ็กเอนด์จะรวมคะแนนการตอบกลับทันทีแต่ละรายการเป็นคะแนนสรุป และนำเสนอผ่านรายงานแบบภาพที่เข้าใจง่าย

Amazon Bedrock ช่วยให้คุณตั้งค่าเวิร์กโฟลว์การตรวจสอบโดยมนุษย์ได้ในไม่กี่ขั้นตอน และให้พนักงานในองค์กรของคุณหรือใช้ทีมผู้เชี่ยวชาญที่จัดการโดย AWS ในการประเมินโมเดล ผ่านอินเทอร์เฟซที่ใช้งานง่ายของ Amazon Bedrock มนุษย์สามารถตรวจสอบและให้ข้อเสนอแนะเกี่ยวกับการตอบสนองของโมเดลได้โดยคลิกยกนิ้วหรือคว่ำนิ้ว ให้คะแนน 1-5 การเลือกคำตอบที่ดีที่สุดจากหลายคำตอบหรือคำแนะนำในการจัดอันดับ ตัวอย่างเช่น สมาชิกในทีมสามารถแสดงให้เห็นว่าสองโมเดลตอบสนองต่อพรอมต์เดียวกันอย่างไร จากนั้นจะถูกขอให้เลือกโมเดลที่แสดงผลลัพธ์ที่แม่นยำ ตรงประเด็น หรือมีสไตล์มากขึ้น คุณสามารถระบุเกณฑ์การประเมินที่ต้องการสำหรับคุณ โดยปรับแต่งคำแนะนำและปุ่มเพื่อให้ปรากฏใน UI การประเมินสำหรับทีมของคุณ คุณยังสามารถให้คำแนะนำโดยละเอียดพร้อมตัวอย่างและเป้าหมายโดยรวมของการประเมินโมเดล เพื่อให้ผู้ใช้สามารถจัดการทำงานของตนให้สอดคล้องกัน วิธีนี้มีประโยชน์ในการประเมินเกณฑ์อัตนัยที่ต้องตัดสินโดยมนุษย์ หรือความเชี่ยวชาญเฉพาะด้านที่ละเอียดยิ่งขึ้นและไม่สามารถตัดสินได้อย่างง่ายดายโดยการประเมินอัตโนมัติ

AI ที่รับผิดชอบ

กฎควบคุมระบบสำหรับ Amazon Bedrock ช่วยให้คุณใช้มาตรการป้องกันสำหรับแอปพลิเคชัน AI ช่วยสร้างของคุณตามกรณีการใช้งานและนโยบาย AI ที่มีความรับผิดชอบ กฎควบคุมระบบช่วยควบคุมปฏิสัมพันธ์ระหว่างผู้ใช้และ FM โดยการกรองเนื้อหาที่ไม่พึงประสงค์และเป็นอันตราย และจะแก้ไขข้อมูลที่ระบุตัวตนของบุคคลได้ (PII) ในไม่ช้า เพิ่มความปลอดภัยของเนื้อหาและความเป็นส่วนตัวในแอปพลิเคชัน AI ช่วยสร้าง คุณสามารถสร้างกฎควบคุมระบบหลายแบบด้วยการกำหนดค่าที่แตกต่างกันซึ่งปรับให้เหมาะกับกรณีการใช้งานเฉพาะ นอกจากนี้ เมื่อใช้กฎควบคุมระบบคุณยังสามารถตรวจสอบและวิเคราะห์อินพุตของผู้ใช้และการตอบสนอง FM ที่อาจละเมิดนโยบายที่ลูกค้ากำหนดได้อย่างต่อเนื่อง

กฎควบคุมระบบช่วยให้คุณสามารถกำหนดชุดนโยบายเพื่อช่วยปกป้องแอปพลิเคชัน AI ช่วยสร้างของคุณ คุณสามารถกำหนดค่านโยบายต่อไปนี้ในกฎควบคุมระบบได้

  • หัวข้อที่ถูกปฏิเสธ: กำหนดชุดหัวข้อที่ไม่พึงปรารถนาในบริบทของแอปพลิเคชันของคุณ ตัวอย่างเช่น ผู้ช่วยธนาคารออนไลน์สามารถออกแบบมาเพื่อละเว้นจากการให้คำแนะนำการลงทุน
  • ตัวกรองเนื้อหา: กำหนดค่าเกณฑ์เพื่อกรองเนื้อหาที่เป็นอันตรายในหมวดหมู่ความเกลียดชัง ดูหมิ่น คุกคามทางเพศและความรุนแรง
  • ตัวกรองคำ (เร็วๆ นี้): กำหนดชุดคำที่จะบล็อกในอินพุตของผู้ใช้และการตอบสนองที่สร้างโดย FM
  • การตรวจทาน PII (เร็ว ๆ นี้): เลือกชุดของ PII ที่สามารถตรวจทานได้ในการตอบสนองที่สร้างโดย FM ขึ้นอยู่กับกรณีการใช้งานคุณยังสามารถบล็อกอินพุตผู้ใช้ได้หากมี PII

กฎควบคุมระบบสามารถใช้กับโมเดลภาษาขนาดใหญ่ (LLM) ทั้งหมดที่มีอยู่ใน Amazon Bedrock ซึ่งรวมถึง Amazon Titan, Anthropic Claude, Meta Llama 2, AI21 Jurassic, และ Cohere Command FM นอกจากนี้ยังสามารถใช้กับ FM ที่ได้รับการปรับแต่งอย่างละเอียดรวมทั้งเจ้าหน้าที่สำหรับ Amazon Bedrock