Amazon SageMaker AI ประกาศเปิดตัว Training Session API สำหรับการปรับแต่งโมเดลแบบไม่ต้องใช้เซิร์ฟเวอร์
ขณะนี้ การปรับแต่งโมเดลแบบไม่ต้องใช้เซิร์ฟเวอร์ของ Amazon SageMaker AI รองรับ Training Session API ซึ่งช่วยให้ลูกค้าควบคุมอัลกอริทึมหลังการฝึกของตนได้อย่างเต็มที่โดยไม่ต้องจัดสรรหรือจัดการโครงสร้างพื้นฐาน GPU เทคนิคที่มีการจัดการ ซึ่งรวมถึง SFT, DPO และวิธีการเรียนรู้แบบเสริมแรงอื่นๆ ช่วยให้ลูกค้าเลือกเทคนิคและโมเดล แล้วให้ SageMaker AI เรียกใช้การฝึก ด้วย Training Session API ทีมสามารถเขียนลูปการฝึกได้เอง ไม่ว่าจะเป็นการทำ SFT หรือ DPO ซ้ำตามเงื่อนไขของตนเอง หรือการใช้ฟังก์ชัน Loss แบบกำหนดเอง, สัญญาณรางวัล RL แบบใหม่, หลักสูตรข้อมูล หรืออัลกอริทึมที่นำมาจากงานวิจัยล่าสุดโดยตรง การดำเนินการต่างๆ เช่น forward_backward(), optim_step() และ sample() จะกลายเป็นการเรียกใช้ API กับเซสชันแบบ Stateful ที่ทำงานอยู่ ดังนั้นลูกค้าจึงสามารถประกอบขั้นตอนการฝึกตามที่เทคนิคของตนต้องการ ขณะที่ SageMaker AI จัดการการจัดสรร GPU, การโหลดโมเดลและ LoRA, การดำเนินการแบบกระจายตัว, การกู้คืนจากข้อผิดพลาด, พื้นที่เก็บจุดตรวจสอบ และการรักษาความปลอดภัย
ลูกค้าสามารถเรียกใช้การดำเนินการเหล่านี้ได้โดยตรงจากโค้ด Python ของตนเอง เพื่อขับเคลื่อนการเรียนรู้แบบเสริมแรง, การปรับแต่งเพิ่มเติมแบบมีผู้สอน หรือวัตถุประสงค์การฝึกแบบกำหนดเองกับเซสชันที่ทำงานอยู่ โดยมีการสร้างจุดตรวจสอบและการดำเนินการต่อในตัว การเรียกเก็บเงินคิดตามจำนวนโทเค็นที่ประมวลผล ดังนั้นการประมวลผลภายในเครื่อง เช่น การให้คะแนนรางวัล จะไม่ถูกเรียกเก็บเป็นเวลาใช้งาน GPU นอกจากนี้ SageMaker AI ยังเปิดตัวคู่มือสูตรสำหรับเซสชันการฝึกของ SageMaker อีกด้วย ซึ่งเป็นชุดสูตร SFT และ RL ที่พร้อมเรียกใช้ ซึ่งลูกค้าสามารถใช้เป็นพิมพ์เขียวสำหรับลูปการฝึกของตนเองได้
Training Session API พร้อมให้ใช้งานทั่วไปแล้ววันนี้ในสหรัฐอเมริกาฝั่งตะวันออก (เวอร์จิเนียฝั่งเหนือ), สหรัฐอเมริกาฝั่งตะวันตก (ออริกอน) และเอเชียแปซิฟิก (มุมไบ) ในการเริ่มต้นใช้งาน ให้ติดตั้ง SageMaker Python SDK และโคลน cookbook หรือเปิดโน้ตบุ๊กใน SageMaker Studio และเชื่อมต่อ Coding Agent ดูข้อมูลเพิ่มเติมได้ที่เอกสารประกอบ และหน้าเว็บ Amazon SageMaker AI