Amazon SageMaker AI รองรับการปรับแต่งโมเดลแบบไม่ต้องใช้เซิร์ฟเวอร์สำหรับ NVIDIA Nemotron 3.5 Lightning แล้ว
Amazon SageMaker AI รองรับการปรับแต่งโมเดลแบบไม่ต้องใช้เซิร์ฟเวอร์สำหรับโมเดล NVIDIA Nemotron 3.5 Lightning โดยใช้การปรับแต่งเพิ่มเติมแบบมีผู้สอน (SFT), การเพิ่มประสิทธิภาพตามค่าความชอบโดยตรง (DPO) และการปรับแต่งเพิ่มเติมแบบเสริมแรง (RFT) แล้ว นี่คือหนึ่งในโมเดลโอเพนเวทล่าสุดจาก NVIDIA ซึ่งใช้สถาปัตยกรรมไฮบริด Mixture-of-Experts ที่มีพารามิเตอร์ใช้งาน 3 พันล้านตัว และพารามิเตอร์ทั้งหมด 3 หมื่นล้านตัว นอกเหนือจากการติดตั้งใช้งานโมเดลนี้บน SageMaker AI แล้ว ขณะนี้คุณยังสามารถปรับให้เหมาะกับโดเมนและเวิร์กโฟลว์เฉพาะของคุณได้อีกด้วย
การปรับแต่งโมเดลช่วยให้คุณสามารถปรับแต่งโมเดลพื้นฐานด้วยข้อมูลที่เป็นกรรมสิทธิ์ของคุณ เพื่อให้โมเดลขนาดเล็กที่เหมาะสมสามารถเทียบเท่าคุณภาพของโมเดลล้ำสมัยในงานของคุณ ช่วยลดต้นทุนและความล่าช้า คุณสามารถใช้ข้อมูลที่มีป้ายกำกับร่วมกับ SFT เพื่อเพิ่มความแม่นยำในงานเฉพาะโดเมน ใช้ข้อมูลความชอบร่วมกับ DPO เพื่อปรับผลลัพธ์ให้สอดคล้องกับโทนขององค์กร หรือใช้สัญญาณการให้รางวัลร่วมกับ RFT เพื่อยกระดับประสิทธิภาพในการทำงานรูปแบบใหม่ๆ การปรับแต่งแบบไม่ต้องใช้เซิร์ฟเวอร์ช่วยให้ SageMaker AI สามารถจัดการการจัดสรรโครงสร้างพื้นฐานและการควบคุมระบบการฝึกทั้งหมด คุณจึงสามารถมุ่งเน้นไปที่ข้อมูลและการประเมินผลของตนเองแทนที่จะเป็นการจัดการคลัสเตอร์ และจ่ายเฉพาะเท่าที่คุณใช้เท่านั้น
การปรับแต่งโมเดลแบบไม่ต้องใช้เซิร์ฟเวอร์สำหรับ NVIDIA Nemotron 3.5 Lightning บน SageMaker AI มีให้บริการในสหรัฐอเมริกาฝั่งตะวันออก (เวอร์จิเนียฝั่งเหนือ), สหรัฐอเมริกาฝั่งตะวันตก (ออริกอน), เอเชียแปซิฟิก (โตเกียว) และยุโรป (ไอร์แลนด์) หากต้องการเริ่มต้นใช้งาน ให้ไปที่หน้าโมเดลใน Amazon SageMaker Studio เพื่อเปิดใช้งานการปรับแต่ง หรือใช้ SageMaker Python SDK สำหรับการเข้าถึงแบบโปรแกรม หากต้องการเรียนรู้เพิ่มเติม โปรดดูเอกสารประกอบเกี่ยวกับการปรับแต่งโมเดลของ Amazon SageMaker AI