การถ่ายโอนเพื่อลดขนาดข้อมูลโมเดลของ Amazon Bedrock

เมื่อใช้การถ่ายโอนเพื่อลดขนาดข้อมูลโมเดล ลูกค้าจึงสามารถเลือกโมเดล “การสอน” ซึ่งต้องการบรรลุความถูกต้องตามกรณีการใช้งาน จากนั้นเลือกโมเดล “การเรียนรู้” ที่ต้องการปรับแต่ง นอกจากนี้ ลูกค้ายังระบุพร้อมท์สำหรับกรณีการใช้งานได้อีกด้วย การถ่ายโอนเพื่อลดขนาดข้อมูลโมเดลทำให้กระบวนการสร้างการตอบสนองจากการสอนเป็นไปโดยอัตโนมัติและใช้การตอบสนองเหล่านั้นเพื่อปรับแต่งโมเดลการเรียนรู้อย่างละเอียด จากนั้นโมเดลการเรียนรู้จะทำตามโมเดลการสอนที่มีความถูกต้องแม่นยำเหมือนกันโดยมีต้นทุนที่ลดลง Model Distillation รองรับโมเดลหลากหลายจากผู้ให้บริการโมเดลต่างๆ รวมถึง Amazon Nova Premier (โมเดลขนาดใหญ่) และ Nova Pro (โมเดลขนาดเล็ก), Claude 3.5 Sonnet v2 (โมเดลขนาดใหญ่), Llama 3.3 70B (โมเดลขนาดใหญ่) และ Llama 3.2 1B/3B (โมเดลขนาดเล็ก) สามารถเรียกโมเดลที่กำหนดเองเฉพาะได้ผ่านการอนุมานตามความต้องการ ซึ่งช่วยลดความต้องการโครงสร้างพื้นฐานที่เปิดอยู่เสมอ โปรดดูรายการโมเดล ที่นี่

การปรับแต่งโมเดลขนาดเล็กและประหยัดค่าใช้จ่ายเพื่อให้ได้ความแม่นยำคล้ายกับโมเดลขนาดใหญ่กว่าสำหรับกรณีการใช้งานเฉพาะเป็นกระบวนการทำซ้ำ การถ่ายโอนเพื่อลดขนาดข้อมูลโมเดลอาจเลือกใช้วิธีการสังเคราะห์ข้อมูลที่แตกต่างกันที่เหมาะสมที่สุดสำหรับกรณีการใช้งานของคุณเพื่อขจัดภาระของการทำซ้ำที่จำเป็นเพื่อให้ได้ผลลัพธ์ที่ดีขึ้น ตัวอย่างเช่น Bedrock อาจขยายชุดข้อมูลการฝึกโดยสร้างพร้อมท์ที่คล้ายกันหรือสร้างการตอบกลับสังเคราะห์คุณภาพสูงโดยใช้คู่พร้อมท์และการตอบกลับที่ลูกค้าระบุไว้เป็นตัวอย่างชั้นดี

ในการปรับแต่งแบบดั้งเดิม ลูกค้าจะต้องสร้างพร้อมท์และการตอบกลับ เมื่อใช้การถ่ายโอนเพื่อลดขนาดข้อมูลโมเดล ลูกค้าจึงสามารถดำเนินการเพียงระบุพร้อมท์ จากนั้นการถ่ายโอนเพื่อลดขนาดข้อมูลโมเดลจะใช้เพื่อสร้างการตอบสนองแบบสังเคราะห์และปรับแต่งโมเดลการเรียนรู้ ลูกค้าสามารถนำทางเราไปที่ข้อมูลบันทึกการเรียกดำเนินการของลูกค้า และกรองข้อมูลบันทึกตามฟิลด์ข้อมูลเมตาบางอย่างได้ การถ่ายโอนเพื่อลดขนาดข้อมูลโมเดลสามารถอ่านทั้งพร้อมท์และการตอบสนองผ่านข้อมูลบันทึกการเรียกดำเนินการ รวมทั้งข้ามการสร้างการตอบสนองที่สังเคราะห์ขึ้นในเวิร์กโฟลว์การถ่ายโอนเพื่อลดขนาดข้อมูลโมเดล ซึ่งจะช่วยลดต้นทุนโดยไม่ต้องสร้างการตอบสนองจากโมเดลการสอนอีกครั้ง เริ่มต้นด้วย ตัวอย่างโค้ด