- AI ช่วยสร้าง›
- Amazon Bedrock›
- คำถามที่พบบ่อย
คำถามที่พบบ่อยเกี่ยวกับ Amazon Bedrock
ข้อมูลทั่วไป
Amazon Bedrock คืออะไร
Amazon Bedrock เป็นบริการที่มีการจัดการเต็มรูปแบบซึ่งเสนอโมเดลพื้นฐาน (FM) ที่มีประสิทธิภาพสูงจากบริษัท AI ควบคู่ไปกับความสามารถอันหลากหลายที่คุณต้องใช้ในการสร้างแอปพลิเคชัน AI ช่วยสร้าง ทำให้การพัฒนานั้นง่ายดายขึ้น พร้อมทั้งยังมีความปลอดภัย เป็นส่วนตัว และ AI ที่วางใจได้ ด้วยความสามารถที่ครอบคลุมของ Amazon Bedrock คุณสามารถทดลองกับหลากหลาย FM ชั้นนำได้อย่างง่ายดาย ปรับแต่งข้อมูลของคุณอย่างส่วนตัวโดยใช้เทคนิคต่าง ๆ เช่น การปรับแต่งละเอียด และการสร้างการเพิ่มข้อมูลแบบดึงข้อมูล (RAG) และสร้างเจ้าหน้าที่ที่มีการจัดการ ซึ่งดำเนินงานธุรกิจที่ซับซ้อน ตั้งแต่การจองการเดินทาง การประมวลผลการเคลมประกัน ไปจนถึงการสร้างแคมเปญโฆษณาและการจัดการสินค้าคงคลัง ทั้งหมดนี้โดยไม่ต้องเขียนโค้ดใด ๆ เนื่องจาก Amazon Bedrock ไม่ต้องใช้เซิร์ฟเวอร์ คุณจึงไม่จำเป็นต้องจัดการโครงสร้างพื้นฐานใด ๆ และคุณสามารถผสานรวมและนำความสามารถ AI ช่วยสร้างมาใช้ในแอปพลิเคชันของคุณได้อย่างปลอดภัย โดยใช้บริการ AWS ที่คุณคุ้นเคยอยู่แล้ว
FM ใดบ้างที่มีให้ใช้งานบน Amazon Bedrock
ลูกค้า Amazon Bedrock สามารถเลือกจาก FM ที่ทันสมัยที่สุดที่มีอยู่ในปัจจุบัน ซึ่งรวมถึงโมเดล Anthropic's Claude, AI21 Labs' Jurassic-2, Stability AI's Stable Diffusion, Cohere's Command and Embed, Meta's Llama 2 รวมถึง Amazon Titan Language และ Embedding
ทำไมฉันจึงควรใช้ Amazon Bedrock
มีเหตุผลห้าประการที่ควรใช้ Amazon Bedrock ในการสร้างแอปพลิเคชันแบบ AI ช่วยสร้าง
- ทางเลือกของโมเดลพื้นฐานชั้นนำ: Amazon Bedrock นำเสนอประสบการณ์ที่ใช้งานง่ายสำหรับนักพัฒนาในการทำงานกับ FM ที่มีประสิทธิภาพสูงและหลากหลายจาก Amazon และ บริษัท AI ชั้นนำอย่าง AI21 Labs, Anthropic, Cohere, Meta และ Stability AI คุณสามารถทดลองกับ FM ที่หลากหลายในสนามเด็กเล่นได้อย่างรวดเร็ว และใช้ API เดียวสำหรับการอนุมานโดยไม่ต้องคำนึงถึงโมเดลที่คุณเลือก ซึ่งทำให้คุณมีความยืดหยุ่นในการใช้ FM จากผู้ให้บริการรายอื่นๆ และสามารถอัปเดตโมเดลให้เป็นเวอร์ชันล่าสุดเสมอโดยมีการเปลี่ยนแปลงโค้ดน้อยที่สุด
- การปรับแต่งโมเดลอย่างง่ายด้วยข้อมูลของคุณ: ปรับแต่ง FM แบบส่วนตัวด้วยข้อมูลของคุณเองผ่านทางอินเทอร์เฟซภาพโดยไม่ต้องเขียนโค้ดใดๆ เพียงเลือกชุดข้อมูลการฝึกอบรมและการตรวจสอบที่จัดเก็บไว้ใน Amazon Simple Storage Service (Amazon S3) และปรับไฮเปอร์พารามิเตอร์เพื่อทำให้โมเดลมีประสิทธิภาพสูงสุดเท่าที่จะเป็นไปได้ หากจำเป็น
- เอเจนต์ที่มีการจัดการเต็มรูปแบบและสามารถเรียกดำเนินการ API แบบไดนามิกเพื่อให้ทำงานต่างๆ ได้: สร้างเอเจนต์ที่ทำงานทางธุรกิจที่ซับซ้อน ไม่ว่าจะเป็นการจองการเดินทางและการประมวลผลการเคลมประกันไปจนถึงการสร้างแคมเปญโฆษณา การจัดเตรียมการยื่นภาษี และการจัดการสินค้าคงคลัง ด้วยการเรียกใช้ API และระบบของบริษัทแบบไดนามิก เอเจนต์ที่มีการจัดการอย่างเต็มรูปแบบของ Amazon Bedrock ขยายความสามารถในการให้เหตุผลของ FM เพื่อแยกย่อยงาน สร้างแผนการควบคุมระบบและดำเนินการ
- การสนับสนุนแบบเนทีฟสำหรับ RAG เพื่อขยายประสิทธิภาพของ FM ด้วยข้อมูลที่เป็นกรรมสิทธิ์: ฐานความรู้สำหรับ Amazon Bedrock จะช่วยให้คุณสามารถเชื่อมต่อ FM กับแหล่งที่มาของข้อมูลได้อย่างปลอดภัยเพื่อเพิ่มการดึงข้อมูลจากภายในบริการที่มีการจัดการ ซึ่งจะขยายความสามารถที่ทรงพลังอยู่แล้วของ FM และทำให้มีความรู้มากขึ้นเกี่ยวกับองค์กรและโดเมนที่เฉพาะเจาะจงของคุณ
- การรับรองความปลอดภัยและการปฏิบัติตามข้อกำหนด: Amazon Bedrock นำเสนอความสามารถหลายอย่างเพื่อรองรับข้อกำหนดด้านความปลอดภัยและความเป็นส่วนตัว Bedrock มีขอบเขตสำหรับมาตรฐานการปฏิบัติตามมาตรฐานทั่วไป เช่น การควบคุมบริการและองค์กร (SOC) องค์การระหว่างประเทศเพื่อมาตรฐาน (ISO), กฎหมายการพกพาและความรับผิดชอบประกันสถานะ (HIPAA) ที่มีคุณสมบัติเหมาะสม และลูกค้าสามารถใช้ Bedrock ตามกฎระเบียบปกป้องข้อมูลทั่วไป (GDPR) Amazon Bedrock ได้รับการรับรอง CSA Security Trust Assurance and Risk (STAR) ระดับ 2 ซึ่งตรวจสอบการใช้แนวทางปฏิบัติที่ดีที่สุดและมาตรการรักษาความปลอดภัยของข้อเสนอ AWS Cloud ด้วย Amazon Bedrock เนื้อหาของคุณจะไม่ถูกใช้เพื่อปรับปรุงโมเดลพื้นฐาน และจะไม่แชร์กับผู้ให้บริการโมเดลรายใด ข้อมูลของคุณใน Amazon Bedrock จะได้รับการเข้ารหัสเสมอเมื่อไม่ได้ใช้งานและขณะรับส่งข้อมูล หรือคุณจะเลือกเข้ารหัสข้อมูลโดยใช้คีย์ของคุณเองก็ได้ คุณสามารถใช้ AWS PrivateLink กับ Amazon Bedrock เพื่อสร้างการเชื่อมต่อส่วนตัวระหว่าง FM และ Amazon Virtual Private Cloud (Amazon VPC) โดยไม่เปิดเผยทราฟิกของคุณไปยังอินเทอร์เน็ต
ฉันจะเริ่มใช้ Amazon Bedrock ได้อย่างไร
ด้วยประสบการณ์แบบไม่ต้องใช้เซิร์ฟเวอร์ของ Amazon Bedrock คุณจึงสามารถเริ่มใช้งานได้อย่างรวดเร็ว ไปยัง Amazon Bedrock ในคอนโซล AWS และลองใช้ FM ในพื้นที่ทดลอง คุณยังสามารถสร้างเอเจนต์และทดสอบได้ในคอนโซล เมื่อคุณระบุกรณีการใช้งานแล้ว คุณสามารถผสานรวม FM เข้ากับแอปพลิเคชันของคุณได้อย่างง่ายดายโดยใช้เครื่องมือ AWS โดยไม่ต้องจัดการโครงสร้างพื้นฐานใด ๆ
Amazon Bedrock ทำงานกับบริการอื่น ๆ อย่างไร
Amazon Bedrock ใช้ประโยชน์จาก AWS Lambda สำหรับการเรียกใช้การดำเนินการ, Amazon S3 สำหรับการฝึกและข้อมูลการตรวจสอบ และ Amazon CloudWatch สำหรับติดตามตัววัด
กรณีการใช้งานใดที่พบใน Amazon Bedrock บ่อยที่สุด
คุณสามารถเริ่มต้นใช้งานกรณีใช้งานได้อย่างรวดเร็ว
- สร้างเนื้อหาต้นฉบับชิ้นใหม่ เช่น เรื่องสั้น เรียงความ โพสต์บนโซเชียลมีเดีย และสำเนาหน้าเว็บ
- ค้นหา ค้นพบ และสังเคราะห์ข้อมูลเพื่อตอบคำถามจากคลังข้อมูลขนาดใหญ่
- สร้างภาพที่สมจริงและเป็นศิลปะของวัตถุ สภาพแวดล้อม และฉากต่าง ๆ จากพรอมต์ภาษา
- ช่วยให้ลูกค้าค้นพบสิ่งที่พวกเขากำลังมองหาด้วยคำแนะนำผลิตภัณฑ์ที่เกี่ยวข้องและตรงตามบริบทมากกว่าการจับคู่คำ
- รับบทสรุปเนื้อหาที่เป็นข้อความ เช่น บทความ บล็อกโพสต์ หนังสือ และเอกสาร เพื่อรับข้อมูลสรุปโดยไม่ต้องอ่านเนื้อหาทั้งหมด
สำรวจกรณีการใช้ AI ช่วยสร้างเพิ่มเติมได้ ที่นี่
Amazon Bedrock Chat Playground คืออะไร
Amazon Bedrock เสนอพื้นที่ทดลองที่ให้คุณทดลอง FM ต่าง ๆ ได้โดยใช้อินเทอร์เฟซการแชทแบบสนทนา คุณสามารถจัดเตรียมพรอมต์และใช้อินเทอร์เฟซเว็บภายในคอนโซลการจัดการของ AWS เพื่อจัดเตรียมพรอมต์และใช้โมเดลที่ได้รับการฝึกล่วงหน้าเพื่อสร้างข้อความหรือรูปภาพ หรือใช้โมเดลที่ได้รับการปรับแต่งอย่างละเอียดซึ่งปรับให้เหมาะกับกรณีการใช้งานของคุณ
Amazon Bedrock มีให้บริการใน AWS Region ใดบ้าง
สำหรับรายการ AWS Region ที่มี Amazon Bedrock ให้บริการ โปรดดูที่โควตาตำแหน่งข้อมูลของ Amazon Bedrock ในคู่มืออ้างอิง Amazon Bedrock
ฉันจะปรับแต่งโมเดลบน Amazon Bedrock ได้อย่างไร
คุณสามารถปรับแต่ง FM ได้อย่างง่ายดายบน Amazon Bedrock ในการเริ่มต้น ให้จัดเตรียมชุดข้อมูลการฝึกและการตรวจสอบ กำหนดค่าไฮเปอร์พารามิเตอร์ (เหตุการณ์ ขนาดแบตช์ อัตราการเรียนรู้ ขั้นตอนการอุ่นเครื่อง) และส่งงาน ภายใน 2-3 ชั่วโมง จะสามารถเข้าถึงโมเดลที่ปรับแต่งอย่างละเอียดของคุณได้ด้วย API เดียวกัน (InvokeModel)
ฉันสามารถฝึกโมเดลและปรับใช้บน Amazon Bedrock ได้หรือไม่
Amazon Bedrock เป็นบริการที่มีการจัดการที่คุณสามารถใช้เพื่อเข้าถึงโมเดลพื้นฐานได้ คุณสามารถปรับโมเดลอย่างละเอียดและใช้กับ Amazon Bedrock API ได้
เอเจนต์
เจ้าหน้าที่ของ Amazon Bedrock คืออะไร
เอเจนต์ของ Amazon Bedrock เป็นความสามารถที่มีการจัดการอย่างเต็มรูปแบบซึ่งช่วยให้นักพัฒนาสามารถสร้างแอปพลิเคชันที่ใช้ AI ช่วยสร้างได้ง่ายขึ้น ซึ่งสามารถทำงานที่ซับซ้อนให้เสร็จสิ้นสำหรับกรณีการใช้งานที่หลากหลาย และมอบคำตอบที่ทันสมัยตามแหล่งความรู้ที่เป็นกรรมสิทธิ์ ด้วยการคลิกเพียงไม่กี่ครั้ง เจ้าหน้าที่ของ Amazon Bedrock จะแบ่งงานและสร้างแผนการควบคุมระบบโดยอัตโนมัติโดยไม่ต้องเขียนโค้ดเอง เอเจนต์จะเชื่อมต่อกับข้อมูลของบริษัทอย่างปลอดภัยผ่าน API แปลงข้อมูลให้อยู่ในรูปแบบที่เครื่องอ่านได้โดยอัตโนมัติ และเพิ่มคำขอด้วยข้อมูลที่เกี่ยวข้องเพื่อสร้างการตอบสนองที่แม่นยำที่สุด จากนั้นเอเจนต์จะเรียกใช้ API โดยอัตโนมัติเพื่อตอบสนองคำขอของผู้ใช้ ตัวอย่างเช่น บริษัทผู้ผลิตอาจต้องการพัฒนาแอปพลิเคชัน AI ช่วยสร้างที่สร้างระบบอัตโนมัติในการติดตามระดับสินค้าคงคลัง ข้อมูลการขาย ข้อมูลห่วงโซ่อุปทาน และสามารถแนะนำจุดที่ควรสั่งซื้อใหม่และปริมาณที่เหมาะสมเพื่อเพิ่มประสิทธิภาพสูงสุดได้ เนื่องจากเป็นความสามารถที่มีการจัดการเต็มรูปแบบ เจ้าหน้าที่ของ Amazon Bedrock จึงช่วยขจัดการจัดการการผสานรวมระบบและการจัดเตรียมโครงสร้างพื้นฐานออกไป ซึ่งช่วยให้นักพัฒนาสามารถใช้ AI ช่วยสร้างได้เต็มขอบเขตทั่วทั้งองค์กรของตน
ฉันจะเชื่อมต่อ FM กับแหล่งที่มาของข้อมูลของบริษัทฉันได้อย่างไร
คุณสามารถเชื่อมต่อ FM กับแหล่งที่มาของข้อมูลของบริษัทคุณได้อย่างปลอดภัยโดยใช้เจ้าหน้าที่ของ Amazon Bedrock ด้วยฐานความรู้ คุณสามารถใช้เอเจนต์เพื่อให้ FM ใน Amazon Bedrock เข้าถึงข้อมูลเพิ่มเติมที่ช่วยให้โมเดลสร้างการตอบสนองที่เกี่ยวข้อง ตรงตามบริบท และแม่นยำมากขึ้น โดยไม่ต้องฝึก FM ซ้ำอย่างต่อเนื่อง จากการป้อนข้อมูลของผู้ใช้ เอเจนต์จะระบุฐานความรู้ที่เหมาะสม ดึงข้อมูลที่เกี่ยวข้อง และเพิ่มข้อมูลลงในพรอมต์อินพุต ทำให้โมเดลมีข้อมูลบริบทมากขึ้นเพื่อสร้างความสมบูรณ์
กรณีการใช้งานสำหรับเจ้าหน้าที่ของ Amazon Bedrock มีอะไรบ้าง
เอเจนต์ของ Amazon Bedrock สามารถช่วยคุณเพิ่มประสิทธิภาพ ปรับปรุงประสบการณ์การบริการลูกค้า หรือทำให้งาน DevOps เป็นแบบอัตโนมัติได้
เจ้าหน้าที่ของ Amazon Bedrock ช่วยปรับปรุงประสิทธิภาพการทำงานของนักพัฒนาได้อย่างไร
เอเจนต์จะช่วยให้นักพัฒนาจะได้รับการสนับสนุนอย่างราบรื่นสำหรับการตรวจสอบ การเข้ารหัส สิทธิ์การอนุญาตผู้ใช้ และการจัดการการเรียกดำเนินการ API โดยไม่ต้องเขียนโค้ดแบบกำหนดเอง เอเจนต์ของ Amazon Bedrock ทำให้วิศวกรรมการโต้ตอบและการควบคุมระบบงานที่ผู้ใช้ร้องขอเป็นไปโดยอัตโนมัติ นักพัฒนาสามารถนำเทมเพลตพรอมต์จากเจ้าหน้าที่ มาใช้เป็นรูปแบบพื้นฐานไว้ปรับแต่งเพิ่มเติมเพื่อเสริมประสบการณ์ของผู้ใช้ให้ดียิ่งขึ้นไปได้ ซึ่งสามารถอัปเดตอินพุตของผู้ใช้ แผนการควบคุมระบบ และการตอบสนอง FM ด้วยการเข้าถึงเทมเพลตพรอมต์นี้ นักพัฒนาจะสามารถควบคุมการควบคุมระบบของเจ้าหน้าที่ได้ดีขึ้น
ด้วยเอเจนต์ที่มีการจัดการเต็มรูปแบบ คุณจะไม่ต้องกังวลกับการจัดเตรียมหรือการจัดการโครงสร้างพื้นฐาน และสามารถนำแอปพลิเคชันไปสู่การใช้งานจริงได้เร็วขึ้น
การรักษาความปลอดภัย
เนื้อหาที่ Amazon Bedrock ประมวลผลถูกย้ายออกจาก AWS Region ที่ฉันกำลังใช้ Amazon Bedrock อยู่หรือไม่
เนื้อหาของลูกค้าใด ๆ ที่ Amazon Bedrock ประมวลผลจะถูกเข้ารหัสและจัดเก็บเป็นข้อมูลที่ไม่ใช้งานไว้ใน AWS Region ที่คุณกำลังใช้ Amazon Bedrock อยู่
อินพุตผู้ใช้และเอาต์พุตโมเดลมีให้แก่ผู้ให้บริการโมเดลที่เป็นบุคคลที่สามหรือไม่
ไม่มี จะไม่มีการแชร์อินพุตผู้ใช้และเอาต์พุตโมเดลกับผู้ให้บริการโมเดลใดๆ
Amazon Bedrock รองรับมาตรฐานความปลอดภัยและการปฏิบัติตามข้อกำหนดใดบ้าง
Amazon Bedrock นำเสนอความสามารถหลายอย่างเพื่อรองรับข้อกำหนดด้านความปลอดภัยและความเป็นส่วนตัว Bedrock มีขอบเขตสำหรับมาตรฐานการปฏิบัติตามมาตรฐานทั่วไป เช่น การควบคุมบริการและองค์กร (SOC) องค์การระหว่างประเทศเพื่อมาตรฐาน (ISO), กฎหมายการพกพาและความรับผิดชอบประกันสถานะ (HIPAA) ที่มีคุณสมบัติเหมาะสม และลูกค้าสามารถใช้ Bedrock ตามกฎระเบียบปกป้องข้อมูลทั่วไป (GDPR) Amazon Bedrock รวมอยู่ในขอบเขตของรายงาน SOC 1, 2, 3 ช่วยให้ลูกค้าได้รับข้อมูลเชิงลึกเกี่ยวกับการควบคุมความปลอดภัยของเรา เราแสดงให้เห็นถึงการปฏิบัติตามข้อกำหนดผ่านการตรวจสอบของบุคคลที่สามอย่างครอบคลุมของการควบคุม AWS ของเรา Amazon Bedrock เป็นหนึ่งในบริการของ AWS ภายใต้การปฏิบัติตามมาตรฐาน ISO 9001, ISO 27001, ISO 27017, ISO 27018, ISO 27701, ISO 22301 และ ISO 20000 Amazon Bedrock ได้รับการรับรอง CSA Security Trust Assurance and Risk (STAR) ระดับ 2 ซึ่งตรวจสอบการใช้แนวทางปฏิบัติที่ดีที่สุดและมาตรการรักษาความปลอดภัยของข้อเสนอ AWS Cloud ด้วย Amazon Bedrock เนื้อหาของคุณจะไม่ถูกใช้เพื่อปรับปรุงโมเดลพื้นฐาน และจะไม่แชร์กับผู้ให้บริการโมเดลรายใด คุณสามารถใช้ AWS PrivateLink เพื่อสร้างการเชื่อมต่อส่วนตัวจาก Amazon Virtual Private Cloud (VPC) ไปยัง Amazon Bedrock โดยไม่ต้องเปิดเผยการรับส่งข้อมูลอินเทอร์เน็ตของคุณ
AWS และผู้ให้บริการโมเดลบุคคลที่สามจะใช้อินพุตหรือเอาท์พุตของลูกค้าจาก Amazon Bedrock เพื่อฝึก Amazon Titan หรือโมเดลของบุคคลที่สามหรือไม่
ไม่ AWS และผู้ให้บริการโมเดลบุคคลที่สามจะไม่ใช้อินพุตหรือเอาต์พุตจาก Bedrock เพื่อฝึกอบรม Amazon Titan หรือรุ่นของบุคคลที่สาม
SDK
Amazon Bedrock รองรับ SDK ใดบ้าง
Amazon Bedrock รองรับ SDK สำหรับบริการรันไทม์ ส่วน SDK สำหรับ iOS และ Android รวมถึง Java, JS, Python, CLI, .Net, Ruby, PHP, Go และ CPP รองรับทั้งการป้อนข้อมูลเสียงพูดและข้อความ
SDK ใดที่รองรับฟังก์ชันการสตรีม
SDK ทั้งหมดรองรับการสตรีม
การเรียกเก็บเงินและการสนับสนุน
Amazon Bedrock ราคาเท่าไหร่
โปรดดูหน้าราคา Amazon Bedrock เพื่อดูข้อมูลเกี่ยวกับราคาปัจจุบัน
Amazon Bedrock มอบการสนับสนุนอะไรบ้าง
Amazon Bedrock ได้รับการสนับสนุนภายใต้แผนการสนับสนุนสำหรับนักพัฒนาซอฟต์แวร์ แผนการสนับสนุนธุรกิจ และแผนการสนับสนุนองค์กร ทั้งนี้ขึ้นอยู่กับสัญญา AWS Support ของคุณ
ฉันจะติดตามโทเค็นอินพุตและเอาต์พุตได้อย่างไร
คุณสามารถใช้เมตริก CloudWatch เพื่อติดตามโทเค็นอินพุตและเอาต์พุต
การปรับแต่ง
ฉันจะใช้ข้อมูลของฉันเพื่อปรับแต่ง FM ที่มีอยู่ผ่าน Amazon Bedrock อย่างปลอดภัยได้อย่างไร
ดAmazon Bedrock ช่วยให้คุณสามารถปรับแต่ง FM แบบส่วนตัว โดยยังคงควบคุมวิธีการใช้และเข้ารหัสข้อมูลของคุณไว้ Amazon Bedrock จะสร้างสำเนาโมเดลพื้นฐานแยกต่างหากและทำการฝึกสำเนาโมเดลส่วนตัวนี้ ข้อมูลของคุณ รวมถึงพรอมต์ ข้อมูลที่ใช้เสริมพรอมต์ การตอบกลับ FM และ FM ที่ปรับแต่งจะยังคงอยู่ในรีเจี้ยนที่ประมวลผลการเรียกใช้ API
Amazon Bedrock รับรองได้อย่างไรว่าข้อมูลของฉันที่ใช้ในการปรับแต่งอย่างละเอียดจะยังคงเป็นส่วนตัวและเป็นความลับ
เมื่อคุณปรับแต่งโมเดลโดยละเอียด ข้อมูลของคุณจะไม่ถูกเปิดเผยต่ออินเทอร์เน็ตสาธารณะ ไม่หลุดออกจากเครือข่าย AWS ซึ่งถูกถ่ายโอนผ่านทาง VPC ของคุณอย่างปลอดภัยและถูกเข้ารหัสในระหว่างการจัดเก็บและการส่งต่อ นอกจากนี้ Bedrock จะบังคับใช้การควบคุมการเข้าถึง AWS เดียวกับที่คุณมีบนบริการอื่นๆ ของเรา
Amazon Bedrock สนับสนุนการฝึกฝนล่วงหน้าอย่างต่อเนื่องหรือไม่
เราเปิดตัวการฝึกฝนต่อเนื่องสำหรับโมเดล Titan Text Express และ Titan บน Amazon Bedrock ซึ่งจะช่วยให้คุณสามารถฝึกฝนเบื้องต้นแบบต่อเนื่องกับโมเดลพื้นฐาน Titan โดยใช้ข้อมูลที่ไม่ได้ติดป้ายกำกับจำนวนมาก การฝึกฝนประเภทนี้จะปรับโมเดลจากคอร์ปัสโดเมนทั่วไปไปยังคลังข้อมูลหัวข้อที่เฉพาะเจาะจงมากขึ้น เช่น หัวข้อทางการแพทย์ กฎหมาย การเงิน ฯลฯ ในขณะที่ยังคงรักษาความสามารถส่วนใหญ่ของโมเดลพื้นฐานไททัน
ทำไมฉันจึงควรใช้การฝึกฝนแบบต่อเนื่องใน Bedrock
โดยทั่วไป องค์กรอาจต้องการสร้างโมเดลสำหรับงานในหัวข้อเฉพาะ โมเดลพื้นฐานอาจไม่ได้รับการฝึกฝนเกี่ยวกับคำศัพท์ทางเทคนิคที่ใช้ในหัวข้อเฉพาะนั้น ดังนั้นการปรับแต่งโมเดลพื้นฐานโดยตรงจะต้องใช้บันทึกการฝึกฝนที่มีป้ายกำกับจำนวนมากและระยะเวลาการฝึกฝนที่ยาวนานเพื่อให้ได้ผลลัพธ์ที่ถูกต้อง เพื่อบรรเทาภาระนี้ ลูกค้าสามารถจัดหาข้อมูลที่ไม่ได้ติดป้ายกำกับจำนวนมากสำหรับงานก่อนการฝึกฝนอย่างต่อเนื่อง งานนี้จะปรับโมเดลพื้นฐาน Titan เข้ากับหัวข้อใหม่ จากนั้นลูกค้าอาจปรับแต่งโมเดลที่กำหนดเองที่ได้รับการฝึกฝนล่วงหน้าใหม่ให้เข้ากับงานดาวน์สตรีมโดยใช้บันทึกการฝึกฝนที่มีป้ายกำกับน้อยลงอย่างมีนัยสำคัญและมีระยะเวลาการฝึกฝนน้อยลง
คุณสมบัติก่อนการฝึกฝนต่อเนื่องเกี่ยวข้องกับบริการอื่น ๆ ของ AWS อย่างไร
Bedrock Continued Pre-training และ Fine Tuning (FT) มีข้อกำหนดที่คล้ายกันมาก ด้วยเหตุนี้เราจึงเลือกที่จะสร้าง API แบบรวมที่รองรับทั้ง CPT และ FT การรวมกันของ API จะช่วยลดเส้นโค้งการเรียนรู้และจะช่วยให้ลูกค้าใช้คุณสมบัติมาตรฐานเช่น CloudWatch Event Bridge เพื่อติดตามงานที่ทำงานที่ยาวนาน การผสานรวม S3 สำหรับการดึงข้อมูลการฝึกฝน แท็กทรัพยากร และการเข้ารหัสโมเดล
ฉันจะใช้การฝึกฝนเบื้องต้นแบบต่อเนื่องได้อย่างไร
การฝึกฝนเบื้องต้นแบบต่อเนื่องช่วยให้คุณปรับโมเดล Titan ให้เข้ากับข้อมูลหัวข้อเฉพาะของคุณได้อย่างง่ายดายในขณะที่ยังคงรักษาฟังก์ชันพื้นฐานของโมเดล Titan เพื่อสร้างงานการฝึกฝนเบื้องต้นแบบต่อเนื่อง ให้ไปที่คอนโซล Bedrock แล้วคลิกที่ ‘โมเดลที่กำหนดเอง’ คุณจะไปที่หน้าโมเดลที่กำหนดเองที่มีสองแท็บ: โมเดลและงานฝึกฝน แท็บทั้งสองมีรายการแบบเลื่อนลงทางด้านขวาที่เรียกว่า “ปรับแต่งโมเดล” เลือก “การฝึกฝนเบื้องต้นแบบต่อเนื่อง” จากเมนูปรับแต่งโมเดลแบบเลื่อนลงเพื่อไปที่หน้าจอ “สร้างงานฝึกฝนเบื้องต้นแบบต่อเนื่อง” คุณจะต้องระบุโมเดลต้นทาง ชื่อ การเข้ารหัสโมเดล ข้อมูลอินพุต ไฮเปอร์พารามิเตอร์ และข้อมูลเอาต์พุต นอกจากนี้ คุณสามารถให้แท็กพร้อมรายละเอียดเกี่ยวกับบทบาทใน IAM และนโยบายทรัพยากรสำหรับงานได้
Amazon Titan
โมเดล Amazon Titan คืออะไร
โมเดลตระกูล Amazon Titan เป็นเอกสิทธิ์เฉพาะของ Amazon Bedrock ที่รวมเอาประสบการณ์ 25 ปีของ Amazon ในการสร้างสรรค์นวัตกรรมด้วย AI และแมชชีนเลิร์นนิงในทุกระดับธุรกิจ โมเดลพื้นฐาน (FM) ของ Amazon Titan มอบตัวเลือกโมเดลรูปภาพ มัลติโมดัล และรูปแบบข้อความที่มีประสิทธิภาพสูงให้กับลูกค้าผ่าน API ที่มีการจัดการเต็มรูปแบบ โมเดล Amazon Titan สร้างขึ้นโดย AWS และได้รับการฝึกฝนล่วงหน้าเกี่ยวกับชุดข้อมูลขนาดใหญ่ ทําให้เป็นโมเดลเอนกประสงค์ที่ทรงพลังซึ่งสร้างขึ้นเพื่อสนับสนุนการใช้งานที่หลากหลาย ในขณะเดียวกันก็สนับสนุนการใช้ AI อย่างมีความรับผิดชอบ ใช้ตามที่สร้างมา หรือปรับแต่งอย่างส่วนตัวด้วยข้อมูลของคุณเอง
ฉันจะเรียนรู้เพิ่มเติมเกี่ยวกับข้อมูลที่ประมวลผลเพื่อพัฒนาและฝึกฝน Amazon Titan FM ได้ที่ไหน
เพื่อเรียนรู้เพิ่มเติมเกี่ยวกับข้อมูลที่ประมวลผลเพื่อพัฒนาและฝึกฝน Amazon Titan FM โปรดไปที่หน้า Amazon Titan Model Training & Privacy
การสร้างการเพิ่มข้อมูลแบบดึงข้อมูล (RAG)
ฐานความรู้สำหรับ Amazon Bedrock ยอมรับรูปแบบข้อมูลประเภทใดบ้าง
รูปแบบข้อมูลที่รองรับ ได้แก่ .pdf, .txt, .md, .html, .doc และ .docx, .csv, .xls และ .xlsx จะต้องอัปโหลดไฟล์ไปยัง Amazon S3 เพียงแค่ชี้ไปที่ตำแหน่งของข้อมูลของคุณใน Amazon S3 และฐานความรู้สำหรับ Amazon Bedrock จะดูแลเวิร์กโฟลว์การนำเข้าทั้งหมดลงในฐานข้อมูลเวกเตอร์ของคุณ
ฐานความรู้สำหรับ Amazon Bedrock แบ่งส่วนเอกสารก่อนที่จะแปลงส่วนเอกสารเหล่านั้นเป็นการฝังตัวได้อย่างไร
ฐานความรู้สำหรับ Amazon Bedrock มีสามตัวเลือกในการแยกข้อความก่อนแปลงเป็นแบบฝังตัว
1. ตัวเลือกเริ่มต้น: ฐานความรู้สำหรับ Amazon Bedrock จะแบ่งเอกสารของคุณออกเป็นชิ้นโดยอัตโนมัติ ซึ่งแต่ละชิ้นมีโทเค็น 200 โทเค็น เพื่อให้แน่ใจว่าประโยคจะไม่แตกตรงกลาง หากเอกสารประกอบด้วยโทเค็นน้อยกว่า 200 โทเค็น เอกสารนั้นก็จะไม่ถูกแยกอีก การทับซ้อนกัน 20% ของโทเค็นจะถูกเก็บไว้ระหว่างสองชิ้นติดต่อกัน
2. การแบ่งขนาดคงที่: ในตัวเลือกนี้ คุณสามารถระบุจำนวนโทเค็นสูงสุดต่อชิ้นและเปอร์เซ็นต์ทับซ้อนกันระหว่างชิ้นส่วนสำหรับฐานความรู้สำหรับ Amazon Bedrock เพื่อแบ่งเอกสารของคุณออกเป็นชิ้นโดยอัตโนมัติเพื่อให้แน่ใจว่าประโยคจะไม่แตกตรงกลาง
3. สร้างตัวเลือกการฝังหนึ่งรายการต่อเอกสาร: Amazon Bedrock สร้างการฝังหนึ่งรายการต่อเอกสาร ตัวเลือกนี้เหมาะสมหากคุณได้ประมวลผลเอกสารล่วงหน้าโดยแบ่งเอกสารออกเป็นไฟล์แยกต่างหาก และไม่ต้องการให้ Bedrock แบ่งเอกสารของคุณเพิ่มเติม
โมเดลการฝังตัวใดที่ใช้ในการแปลงเอกสารเป็นการฝังตัว (เวกเตอร์) ได้
ในปัจจุบัน ฐานความรู้สำหรับ Amazon Bedrock ใช้โมเดล Titan Text Embeddings เวอร์ชันล่าสุดซึ่งมีอยู่ใน Amazon Bedrock โมเดล Titan Text Embeddings รองรับโทเค็น 8K และ 25+ ภาษา และสร้างการฝังตัวขนาด 1,536 มิติได้
ฐานข้อมูลเวกเตอร์ใดที่รองรับโดยฐานความรู้สำหรับ Amazon Bedrock
ฐานความรู้สำหรับ Amazon Bedrock จะดูแลเวิร์กโฟลว์การนำเข้าทั้งหมดในการแปลงเอกสารของคุณเป็นการฝังตัว (เวกเตอร์) และจัดเก็บการฝังตัวไว้ในฐานข้อมูลเวกเตอร์เฉพาะทาง ฐานความรู้สำหรับ Amazon Bedrock รองรับฐานข้อมูลยอดนิยมสำหรับการจัดเก็บเวกเตอร์ รวมถึงกลไกเวกเตอร์สำหรับ Amazon OpenSearch แบบไม่ต้องใช้เซิร์ฟเวอร์, Pinecone, Redis Enterprise Cloud, Amazon Aurora (เร็ว ๆ นี้) และ MongoDB (เร็ว ๆ นี้) หากคุณไม่มีฐานข้อมูลเวกเตอร์ที่มีอยู่ Amazon Bedrock จะสร้างที่เก็บเวกเตอร์ Amazon OpenSearch แบบไม่ต้องใช้เซิร์ฟเวอร์สำหรับคุณ
เป็นไปได้หรือไม่ที่จะทำการซิงค์ตามระยะเวลาหรือตามเหตุการณ์จาก Amazon S3 ไปยังฐานความรู้สำหรับ Amazon Bedrock
คุณสามารถใช้ Amazon EventBridge เพื่อสร้างการซิงค์แบบเป็นระยะหรือตามเหตุการณ์ระหว่าง Amazon S3 กับฐานความรู้สำหรับ Amazon Bedrock ทั้งนี้ขึ้นอยู่กับกรณีการใช้งานของคุณ
การประเมินโมเดล
การประเมินโมเดล Amazon Bedrock คืออะไร
การประเมินโมเดลบน Amazon Bedrock ช่วยให้คุณสามารถประเมิน เปรียบเทียบ และเลือกรูปแบบพื้นฐานที่ดีที่สุดสำหรับกรณีการใช้งานของคุณได้ในไม่กี่คลิก Amazon Bedrock เสนอทางเลือกในการประเมินอัตโนมัติและการประเมินของมนุษย์ คุณสามารถใช้การประเมินอัตโนมัติด้วยเมตริกที่กำหนดไว้ล่วงหน้า เช่น ความแม่นยำ ความทนทาน และความเป็นพิษ คุณสามารถใช้เวิร์กโฟลว์การประเมินของมนุษย์สำหรับเมตริกส่วนตัวหรือแบบกำหนดเอง เช่น ความเป็นมิตร สไตล์ และการจัดตำแหน่งตามลักษณะของแบรนด์ สำหรับการประเมินของมนุษย์ คุณสามารถใช้ประโยชน์จากพนักงานภายในของคุณหรือทีมที่จัดการ AWS ในฐานะผู้ตรวจสอบได้ การประเมินโมเดลมีชุดข้อมูลที่คัดสรรในตัวหรือคุณสามารถนำชุดข้อมูลของคุณเองมาได้
ฉันสามารถประเมิน FM กับเมตริกใดได้บ้าง
คุณสามารถประเมินเมตริกที่กำหนดไว้ล่วงหน้าได้หลากหลาย เช่น ความแม่นยำ ความทนทาน และความเป็นพิษโดยใช้การประเมินอัตโนมัติ นอกจากนี้คุณยังสามารถใช้เวิร์กโฟลว์การประเมินของมนุษย์สำหรับเมตริกส่วนตัวหรือแบบกำหนดเอง เช่น ความเป็นมิตร ความเกี่ยวข้อง สไตล์ และการจัดตำแหน่งกับเสียงของแบรนด์
อะไรคือความแตกต่างระหว่างการประเมินตามมนุษย์และการประเมินอัตโนมัติอย่างไร
การประเมินอัตโนมัติช่วยให้คุณสามารถจำกัดรายการ FM ที่มีอยู่ได้อย่างรวดเร็วตามเกณฑ์มาตรฐาน (เช่นความแม่นยำความเป็นพิษและความแข็งแกร่ง) การประเมินตามมนุษย์มักใช้เพื่อประเมินเกณฑ์ที่ละเอียดอ่อนหรืออัตนัยมากขึ้นซึ่งต้องการการตัดสินของมนุษย์และในกรณีที่การประเมินอัตโนมัติอาจไม่มีอยู่จริง (เช่น เสียงของแบรนด์ ความตั้งใจสร้างสรรค์ เป็นมิตร)
วิธีการประเมินอัตโนมัติทำงานอย่างไร
คุณสามารถประเมินโมเดล Bedrock ได้อย่างรวดเร็วสำหรับเมตริก เช่น ความแม่นยำ ความแข็งแกร่ง และความเป็นพิษ โดยการใช้ประโยชน์จากชุดข้อมูลในตัวที่คัดสรรมาแล้ว หรือโดยการนำชุดข้อมูลที่รวดเร็วของคุณเอง หลังจากที่ชุดข้อมูลพรอมต์ของคุณถูกส่งไปยังโมเดล Amazon Bedrock เพื่ออนุมานแล้ว การตอบสนองของโมเดลจะถูกทำคะแนนด้วยอัลกอริทึมการประเมินสำหรับแต่ละมิติ กลไกแบ็กเอนด์จะรวมคะแนนการตอบกลับทันทีแต่ละรายการเป็นคะแนนสรุป และนำเสนอผ่านรายงานแบบภาพที่เข้าใจง่าย
การประเมินของมนุษย์ทำงานอย่างไร
Amazon Bedrock ช่วยให้คุณสามารถตั้งค่าเวิร์กโฟลว์การตรวจสอบของมนุษย์ได้ด้วยการคลิกเพียงไม่กี่ครั้งและนำพนักงานภายในของคุณมาใช้ประโยชน์จากทีมผู้เชี่ยวชาญที่จัดการ AWS เพื่อประเมินโมเดล ผ่านอินเทอร์เฟซที่ใช้งานง่ายของ Amazon Bedrock มนุษย์สามารถตรวจสอบและให้ข้อเสนอแนะเกี่ยวกับการตอบสนองของโมเดลได้โดยคลิกนิ้วหัวแม่มือขึ้น/ลง ให้คะแนนในระดับ 1-5 การเลือกคำตอบที่ดีที่สุดจากหลายคำตอบหรือคำแนะนำในการจัดอันดับ ตัวอย่างเช่น สมาชิกในทีมสามารถแสดงให้เห็นว่าสองโมเดลตอบสนองต่อพรอมต์เดียวกันอย่างไร จากนั้นจะถูกขอให้เลือกโมเดลที่แสดงผลลัพธ์ที่แม่นยำ ตรงประเด็น หรือมีสไตล์มากขึ้น คุณสามารถระบุเกณฑ์การประเมินที่สำคัญสำหรับคุณได้เพียงแค่ปรับแต่งคำแนะนำและปุ่มเพื่อให้ปรากฏใน UI การประเมินสำหรับทีมของคุณ คุณยังสามารถให้คำแนะนำโดยละเอียดพร้อมตัวอย่างและเป้าหมายโดยรวมของการประเมินโมเดล เพื่อให้พวกเขาสามารถจัดตำแหน่งงานของพวกเขาให้สอดคล้องกัน วิธีนี้มีประโยชน์ในการประเมินเกณฑ์อัตนัยที่ต้องการการตัดสินของมนุษย์หรือความเชี่ยวชาญในเรื่องที่แตกต่างกันมากขึ้น และไม่สามารถตัดสินได้อย่างง่ายดายโดยการประเมินอัตโนมัติ
AI ที่รับผิดชอบ
กฎควบคุมระบบสำหรับ Amazon Bedrock คืออะไร
กฎควบคุมระบบสำหรับ Amazon Bedrock ช่วยให้คุณสามารถใช้มาตรการป้องกันสำหรับแอปพลิเคชัน AI ช่วยสร้างของคุณตามกรณีการใช้งานและนโยบาย AI ที่มีความรับผิดชอบ กฎควบคุมระบบช่วยควบคุมปฏิสัมพันธ์ระหว่างผู้ใช้และโมเดลพื้นฐาน (FM) โดยการกรองเนื้อหาที่ไม่พึงประสงค์และเป็นอันตราย และจะแก้ไขข้อมูลที่ระบุตัวตนของบุคคลได้ (PII) ในไม่ช้า เพิ่มความปลอดภัยของเนื้อหาและความเป็นส่วนตัวในแอปพลิเคชัน AI ช่วยสร้าง คุณสามารถสร้างกฎควบคุมระบบหลายแบบด้วยการกำหนดค่าที่แตกต่างกันซึ่งปรับให้เหมาะกับกรณีการใช้งานเฉพาะ นอกจากนี้ คุณยังสามารถตรวจสอบและวิเคราะห์อินพุตของผู้ใช้และการตอบสนอง FM ที่อาจละเมิดนโยบายที่ลูกค้ากำหนดในกฎควบคุมระบบได้อย่างต่อเนื่อง
มีมาตรการป้องกันอะไรบ้างในกฎควบคุมระบบสำหรับ Amazon Bedrock
กฎควบคุมระบบช่วยให้ลูกค้าสามารถกำหนดชุดนโยบายเพื่อช่วยปกป้องแอปพลิเคชัน AI ช่วยสร้างของคุณ คุณสามารถกำหนดค่านโยบายต่อไปนี้ในกฎควบคุมระบบได้
- หัวข้อที่ถูกปฏิเสธ - คุณสามารถกำหนดชุดหัวข้อที่ไม่พึงปรารถนาในบริบทของแอปพลิเคชันของคุณ ตัวอย่างเช่น ผู้ช่วยธนาคารออนไลน์สามารถออกแบบมาเพื่อละเว้นจากการให้คำแนะนำการลงทุน
- ตัวกรองเนื้อหา - คุณสามารถกำหนดค่าเกณฑ์เพื่อกรองเนื้อหาที่เป็นอันตรายในหมวดหมู่ความเกลียดชัง ดูหมิ่น คุกคามทางเพศและความรุนแรง
- ตัวกรองคำ (เร็ว ๆ นี้) - คุณสามารถกำหนดชุดคำที่จะบล็อกในอินพุตของผู้ใช้และการตอบสนองที่ FM สร้างขึ้น
- การตรวจทาน PII (เร็ว ๆ นี้) — คุณสามารถเลือกชุดของ PII ที่สามารถตรวจทานได้ในการตอบสนองที่สร้างขึ้นโดย FM ขึ้นอยู่กับกรณีการใช้งานคุณยังสามารถบล็อกอินพุตผู้ใช้ได้หากมี PII
ฉันสามารถใช้กฎควบคุมระบบกับ FM และเครื่องมือทั้งหมดที่มีอยู่ใน Amazon Bedrock ได้หรือไม่
กฎควบคุมระบบสามารถใช้กับโมเดลภาษาขนาดใหญ่ทั้งหมดที่มีอยู่ใน Amazon Bedrock รวมถึง Titan, Anthropic Claude, Meta Llama 2, AI21 Jurassic และ Cohere Command FM นอกจากนี้ยังสามารถใช้กับ FM ที่ได้รับการปรับแต่งอย่างละเอียดรวมทั้งเจ้าหน้าที่สำหรับ Amazon Bedrock
AWS เสนอค่าชดเชยทรัพย์สินทางปัญญาที่ครอบคลุมการเรียกร้องลิขสิทธิ์สำหรับบริการ AI ช่วยสร้างขึ้นหรือไม่
AWS เสนอการชดเชยทรัพย์สินทางปัญญา (IP) ที่ไม่มีขีดจำกัดสำหรับการเรียกร้องลิขสิทธิ์ที่เกิดจากผลลัพธ์ช่วยสร้างของบริการ AI ช่วยสร้าง Amazon Titan, Amazon CodeWhisperer Professional และบริการอื่น ๆ ที่ระบุไว้ในข้อ 50.10 ของเงื่อนไขการให้บริการ (“บริการ AI ช่วยสร้างที่ได้รับการชดใช้ค่าเสียหาย”) ซึ่งหมายความว่าลูกค้าได้รับการคุ้มครองจากการเรียกร้องของบุคคลที่สามที่กล่าวหาว่าละเมิดลิขสิทธิ์โดยผลลัพธ์ที่สร้างโดยบริการ AI ช่วยสร้างที่ได้รับการชดใช้ค่าเสียหายเพื่อตอบสนองต่ออินพุตหรือข้อมูลอื่น ๆ ที่ลูกค้าให้ไว้ ลูกค้าจะต้องใช้บริการด้วยความรับผิดชอบ เช่น ไม่ป้อนข้อมูลที่ละเมิดหรือปิดใช้งานคุณสมบัติการกรองของบริการ
นอกจากนี้ ค่าชดเชย IP มาตรฐานของเราสำหรับการใช้บริการช่วยปกป้องลูกค้าจากการเรียกร้องของบุคคลที่สามที่กล่าวหาว่าละเมิด IP (รวมถึงการเรียกร้องลิขสิทธิ์) โดยบริการและข้อมูลที่ใช้ในการฝึกฝน