โมเดล Muse Spark Open เปิดให้ใช้งานแล้วบน Amazon SageMaker JumpStart
ขณะนี้โมเดล Muse Spark Open ของ Meta พร้อมให้ใช้งานใน Amazon SageMaker JumpStart แล้ว ซึ่งช่วยขยายพอร์ตโฟลิโอของโมเดลพื้นฐานสำหรับลูกค้า AWS โมเดลแบบ open-weight ที่ปรับให้เหมาะสมกับการเขียนโค้ดจาก Meta นี้ ถูกสร้างขึ้นมาโดยเฉพาะสำหรับเวิร์กโฟลว์การเขียนโค้ดแบบ Agent โดยนำการใช้เหตุผลหลายขั้นตอนและการเรียกใช้เครื่องมือมาใช้ในวิศวกรรมซอฟต์แวร์ระดับองค์กรบนโครงสร้างพื้นฐาน AWS
Muse Spark Open ได้รับการออกแบบมาสำหรับ Coding Agent ที่ทำงานต่อเนื่องยาวนาน และเวิร์กโฟลว์ทางวิศวกรรมแบบหลายรูปแบบ ด้วยการสร้างขึ้นบนสถาปัตยกรรมแบบ Mixture-of-Experts (MoE) ซึ่งมีพารามิเตอร์รวม 816 พันล้านตัว และมีการใช้งานพารามิเตอร์จริง 42 พันล้านตัวต่อหนึ่งโทเค็น โมเดลนี้จึงมอบขีดความสามารถเทียบเท่ากับเครือข่ายขนาดใหญ่มาก ในขณะที่ยังคงรักษาปริมาณการคำนวณต่อโทเค็นไว้ในระดับใกล้เคียงกับโมเดลแบบหนาแน่นที่มีขนาดเล็กกว่ามาก โมเดลนี้รองรับบริบทได้สูงสุดถึง 1 ล้านโทเค็น ทำให้สามารถประมวลผลโปรเจกต์ทั้งโปรเจกต์ได้ในคราวเดียว ซึ่งรวมถึงส่วนประกอบที่เกี่ยวข้อง โค้ดเดิมที่มีอยู่ และไฟล์จำนวนหลายพันไฟล์ โดยไม่จำเป็นต้องแบ่งงานออกเป็นส่วนย่อยๆ ระบบนี้ยอมรับทั้งข้อความ รูปภาพ เอกสาร เสียง และสื่อผสมประเภทภาพและเสียง โดยจะสร้างผลลัพธ์ออกมาเป็นข้อความ ด้วยการฝึกฝนจากขั้นตอนการทำงานจริงของนักพัฒนา เช่น การ Refactor ที่ครอบคลุมหลายไฟล์และการแก้ไขบั๊กที่ต้องใช้เวลาต่อเนื่องยาวนาน ระบบนี้จึงสามารถวางแผน ลงมือทำ สังเกตผลลัพธ์ และปรับปรุงแก้ไขตนเองได้ตลอดกระบวนการที่กินระยะเวลายาวนาน แทนที่จะเป็นเพียงการเรียกใช้เครื่องมือเป็นครั้งคราวเท่านั้น SageMaker JumpStart มีตัวเลือกให้ใช้งาน 2 รูปแบบ ได้แก่ BF16 (Muse-Spark-Open-816B-A42B) และ NVFP4 ที่ผ่านการควอนไทซ์ (Muse-Spark-Open-816B-A42B-NVFP4) โดยรูปแบบ NVFP4 นี้จะใช้หน่วยความจำเพียงประมาณหนึ่งในสี่ ซึ่งช่วยให้การนำไปใช้จริงมีความคุ้มค่ามากขึ้น
ด้วย SageMaker JumpStart ลูกค้าสามารถติดตั้งใช้งาน Muse Spark Open ได้ในไม่กี่คลิก โดยที่ตำแหน่งข้อมูลจะทำงานอยู่ภายในบัญชี AWS ของลูกค้าเอง ทำให้สามารถควบคุมซอร์สโค้ดและพร้อมท์ต่างๆ ได้อย่างเต็มที่
เริ่มต้นใช้งานโมเดลนี้ได้โดยไปที่ SageMaker JumpStart model catalog บนคอนโซล SageMaker หรือติดตั้งใช้งานโมเดลผ่าน SageMaker Python SDK ไปยังบัญชี AWS ของคุณ ดูข้อมูลเพิ่มเติมเกี่ยวกับการติดตั้งใช้งานและการใช้โมเดลพื้นฐานบน SageMaker JumpStart ได้ที่เอกสารประกอบของ Amazon SageMaker JumpStart