ขณะนี้ โมเดล Qwen3.6-35B-A3B-NVFP4 และ Wan2.1-T2V-1.3B-Diffusers พร้อมใช้งานแล้วบน Amazon SageMaker JumpStart
ขณะนี้ โมเดล Qwen3.6-35B-A3B-NVFP4 ของ NVIDIA และโมเดล Wan2.1-T2V-1.3B-Diffusers ของ Alibaba พร้อมใช้งานแล้วบน Amazon SageMaker JumpStart ซึ่งเป็นการขยายพอร์ตโฟลิโอของโมเดลพื้นฐานที่พร้อมใช้งานสำหรับลูกค้า AWS โมเดลทั้งสองนี้มาพร้อมความสามารถเฉพาะทางที่ครอบคลุมการเขียนโค้ดแบบ Agent พร้อมการใช้เหตุผลในบริบทขนาดยาว และการสร้างวิดีโอจากข้อความแบบน้ำหนักเบา ซึ่งช่วยให้ลูกค้าสามารถติดตั้งใช้งานโซลูชัน AI ประสิทธิภาพสูงที่ปรับขนาดได้บนโครงสร้างพื้นฐานของ AWS
โมเดลเหล่านี้ช่วยตอบโจทย์ความท้าทายด้าน AI สำหรับองค์กรในด้านต่างๆ ด้วยความสามารถเฉพาะทาง:
Qwen3.6-35B-A3B-NVFP4 ได้รับการปรับให้เหมาะสมสำหรับการเขียนโค้ดแบบ Agent, การใช้เหตุผลแบบหลายรูปแบบ และการทำความเข้าใจบริบทขนาดยาว โดยเป็นรุ่น Qwen3.6-35B-A3B ของ Alibaba ที่ผ่านการลดความละเอียดเชิงตัวเลขแล้วโดย NVIDIA โมเดล Mixture-of-Experts นี้มีพารามิเตอร์ทั้งหมด 35B โดยเปิดใช้งานเพียง 3B ต่อโทเค็น (Expert 8 จาก 256 รายการ) ซึ่งรองรับหน้าต่างบริบทขนาด 262,000 โทเค็นที่สามารถขยายได้ถึงประมาณ 1,000,000 โทเค็นผ่านการปรับขนาด YaRN โมเดลนี้ได้รับการลดความละเอียดเชิงตัวเลขเป็น NVFP4 โดยใช้เฟรมเวิร์ก ModelOpt ของ NVIDIA โดยยังคงรักษากระบวนการคิดระหว่างรอบการสนทนา การคาดการณ์หลายโทเค็น และการเรียกใช้เครื่องมือสำหรับไปป์ไลน์ Agent แบบหลายขั้นตอน ทั้งหมดนี้ใช้หน่วยความจำลดลงอย่างมาก
Wan2.1-T2V-1.3B-Diffusers มีความโดดเด่นด้านการสร้างวิดีโอจากข้อความบนฮาร์ดแวร์ระดับผู้บริโภค โมเดลพารามิเตอร์ 1.3B นี้สร้างขึ้นบนกระบวนทัศน์ตัวแปลงข้อมูลแบบการแพร่กระจายพร้อม Video Variational Autoencoder (VAE) แบบใหม่ โดยสามารถสร้างคลิปวิดีโอคุณภาพสูงที่สอดคล้องกับหลักฟิสิกส์จากพร้อมท์ข้อความ ในขณะที่ต้องใช้ VRAM เพียง 8.19 GB ซึ่งสามารถสร้างวิดีโอ 480p ความยาว 5 วินาทีบน RTX 4090 ได้ภายในเวลาประมาณ 4 นาที ทำให้เป็นหนึ่งในโมเดลสร้างวิดีโอแบบโอเพนซอร์สที่เข้าถึงได้ง่ายที่สุดที่พร้อมใช้งาน
ด้วย SageMaker JumpStart ลูกค้าสามารถติดตั้งใช้งานโมเดลใดก็ได้เหล่านี้ด้วยการคลิกเพียงไม่กี่ครั้ง เพื่อรองรับกรณีการใช้งาน AI เฉพาะของตน
ในการเริ่มต้นใช้งานโมเดลเหล่านี้ ให้ไปที่แคตตาล็อกโมเดล SageMaker JumpStart ในคอนโซล SageMaker หรือใช้ SageMaker Python SDK เพื่อติดตั้งใช้งานโมเดลไปยังบัญชี AWS ของคุณ ดูข้อมูลเพิ่มเติมเกี่ยวกับการติดตั้งใช้งานและการใช้โมเดลพื้นฐานบน SageMaker JumpStart ได้ที่เอกสารประกอบของ Amazon SageMaker JumpStart