โมเดล Nemotron 3.5 Super VL พร้อมใช้งานแล้วบน Amazon SageMaker JumpStart
Nemotron 3.5 Super VL ของ NVIDIA พร้อมใช้งานแล้วบน Amazon SageMaker JumpStart ซึ่งช่วยขยายพอร์ตโฟลิโอของโมเดลพื้นฐานที่พร้อมให้ลูกค้า AWS ใช้งาน โมเดลด้านภาพและภาษาจากตระกูล Nemotron 3.5 นี้รองรับรูปภาพ วิดีโอ และข้อความเป็นอินพุต และสร้างข้อความเป็นเอาต์พุต ซึ่งช่วยให้ลูกค้าสามารถติดตั้งใช้งานโซลูชัน AI หลายรูปแบบบนโครงสร้างพื้นฐานของ AWS
Nemotron 3.5 Super VL ได้รับการออกแบบมาสำหรับระบบอัจฉริยะด้านเอกสาร, ความเข้าใจ GUI, การตอบคำถามจากวิดีโอ และแอปพลิเคชันแบบ Agent ที่รองรับหลายรูปแบบ โมเดลนี้ผสานแกนหลักด้านภาษาของ Mixture-of-Experts (MoE) แบบไฮบริดที่มีพารามิเตอร์ 120B เข้ากับพารามิเตอร์ที่แอคทีฟ 12B และตัวเข้ารหัสภาพ โดยรองรับความยาวบริบทสูงสุด 1 ล้านโทเค็น โมเดลนี้ประกอบด้วยส่วนหัว Multi-Token Prediction (MTP) ในตัวสำหรับการถอดรหัสเชิงคาดการณ์เพื่อเร่งการสร้างข้อความ โดยสามารถกำหนดค่าการใช้เหตุผลได้ต่อคำขอ โมเดลนี้รองรับ 10 ภาษา ซึ่งรวมถึงภาษาอังกฤษ ฝรั่งเศส สเปน เยอรมัน ญี่ปุ่น ฮินดี เกาหลี และจีน ผ่านการฝึกภายหลังด้วยการปรับแต่งเพิ่มเติมภายใต้การกำกับดูแลหลายรูปแบบบนข้อมูลรูปภาพ วิดีโอ เอกสาร แผนภูมิ และ GUI ตามด้วยการเรียนรู้แบบเสริมกำลัง GRPO โมเดลนี้จึงสามารถให้เอาต์พุต JSON แบบมีโครงสร้าง, การเรียกใช้เครื่องมือ และการใช้เหตุผลที่กำหนดค่าได้สำหรับเวิร์กโฟลว์ Agent ระดับองค์กร SageMaker JumpStart มีให้เลือกสองตัวแปร ได้แก่ NVFP4 สำหรับการอนุมานที่ปรับให้เหมาะสมบนอินสแตนซ์ G7 ที่ใช้ GPU NVIDIA RTX PRO 4500 Blackwell Server Edition และ Weight อ้างอิงแบบ BF16 บน ml.p5en.48xlarge สำหรับการปรับแต่ง ซึ่งรวมถึง SFT, RL, การกลั่นโมเดล และการปรับให้เข้ากับโดเมน
ด้วย SageMaker JumpStart จะทำให้ลูกค้าสามารถติดตั้งใช้งาน Nemotron 3.5 Super VL ได้ด้วยการคลิกเพียงไม่กี่ครั้งเพื่อรองรับกรณีการใช้งาน AI ที่เฉพาะเจาะจงของตน
ในการเริ่มต้นใช้งานโมเดลเหล่านี้ ให้ไปที่แคตตาล็อกโมเดล SageMaker JumpStart ในคอนโซล SageMaker หรือใช้ SageMaker Python SDK เพื่อติดตั้งใช้งานโมเดลไปยังบัญชี AWS ของคุณ ดูข้อมูลเพิ่มเติมเกี่ยวกับการติดตั้งใช้งานและการใช้โมเดลพื้นฐานบน SageMaker JumpStart ได้ที่เอกสารประกอบของ Amazon SageMaker JumpStart