Amazon SageMaker AI รองรับความยาวลำดับแบบกำหนดเองสำหรับงานปรับแต่งโมเดลแบบไม่ต้องใช้เซิร์ฟเวอร์
วันนี้ Amazon SageMaker AI ได้ประกาศความสามารถในการกำหนดค่าความยาวลำดับที่ใช้ในระหว่างงานปรับแต่งโมเดลแบบไม่ต้องใช้เซิร์ฟเวอร์ของคุณ การปรับแต่งโมเดลแบบไม่ต้องใช้เซิร์ฟเวอร์ของ Amazon SageMaker AI จะรองรับการปรับแต่งเพิ่มเติมสำหรับโมเดล Open-Weight หลายโมเดล รวมถึงโมเดลจากตระกูลยอดนิยม เช่น gpt-oss, Gemma, Llama, Nemotron และ Qwen ก่อนหน้านี้ สูตรการปรับแต่งเพิ่มเติมแต่ละสูตรจะทำงานตามความยาวลำดับคงที่ซึ่งลูกค้าไม่สามารถแก้ไขได้ บางครั้งลูกค้าจำเป็นต้องแก้ไขพารามิเตอร์เหล่านี้เพื่อให้ได้ผลลัพธ์ที่ดีขึ้นตามกรณีการใช้งาน ลูกค้ายังขอความยาวลำดับที่ยาวกว่าค่าเริ่มต้นแบบคงที่ได้ซึ่งเรามีการสนับสนุนในบางรุ่น
ขณะนี้คุณสามารถตั้งค่าพารามิเตอร์ความยาวลำดับให้เป็นส่วนหนึ่งของไฮเปอร์พารามิเตอร์ของงานปรับแต่งได้ทุกที่จนถึงระดับสูงสุดที่เผยแพร่ตามโมเดลและเทคนิคที่คุณเลือก คุณสามารถตั้งค่าไฮเปอร์พารามิเตอร์ dataset_max_len สำหรับงาน SFT และ DPO หรือตั้งค่าไฮเปอร์พารามิเตอร์ max_prompt_length และ max_response_length สำหรับงาน RFT ได้ ซึ่งจะช่วยให้คุณสามารถควบคุมได้มากขึ้น เพื่อให้ตรงกับลักษณะข้อมูลการฝึกอบรมของคุณไม่ว่าคุณจะทำงานกับคู่คำถาม-คำตอบสั้นๆ หรือเอกสารหลายหน้า จำนวนสูงสุดที่เผยแพร่คือโทเค็นสูงถึง 16K สำหรับหลายโมเดล ขึ้นอยู่กับโมเดลและเทคนิค
การปรับแต่งโมเดลแบบไม่ต้องใช้เซิร์ฟเวอร์ บน SageMaker AI มีให้บริการในสหรัฐอเมริกาฝั่งตะวันออก (เวอร์จิเนียฝั่งเหนือ), สหรัฐอเมริกาฝั่งตะวันตก (ออริกอน), เอเชียแปซิฟิก (โตเกียว) และยุโรป (ไอร์แลนด์) หากต้องการเริ่มต้นใช้งาน ให้ไปที่หน้าโมเดลใน Amazon SageMaker Studio เพื่อเปิดใช้งานการปรับแต่ง หรือใช้ SageMaker Python SDK หรือใช้ Agent Skill ของเราตามผู้ช่วยเขียนโค้ดที่คุณเลือก หากต้องการเรียนรู้เพิ่มเติมและดูรายการโมเดลและความยาวลำดับที่รองรับต่อเทคนิค โปรดดูเอกสารประกอบของ SageMaker AI