โมเดล Gemma-4-31B-it-assistant และ Gemma-4-31B-IT-NVFP4 พร้อมใช้งานแล้วบน Amazon SageMaker JumpStart
ขณะนี้ โมเดล Gemma-4-31B-it-assistant ของ Google DeepMind และ Gemma-4-31B-IT-NVFP4 ของ NVIDIA พร้อมใช้งานบน Amazon SageMaker JumpStart ซึ่งเป็นการขยายพอร์ตโฟลิโอของโมเดลพื้นฐานที่พร้อมใช้งานสำหรับลูกค้า AWS โมเดลทั้งสองนี้นำสถาปัตยกรรมแบบ Dense ของ Gemma 4 31B รุ่นเรือธงมาสู่เวิร์กโหลดสำหรับองค์กร ทั้งในรุ่นความแม่นยำเต็มรูปแบบและรุ่นที่ลดความละเอียดเชิงตัวเลขซึ่งได้รับการปรับให้เหมาะสมแล้ว ซึ่งช่วยให้ลูกค้าสามารถติดตั้งใช้งานโซลูชัน AI ประสิทธิภาพสูงที่ปรับขนาดได้บนโครงสร้างพื้นฐานของ AWS
โมเดลเหล่านี้ช่วยตอบโจทย์ความท้าทายด้าน AI สำหรับองค์กรในด้านต่างๆ ด้วยความสามารถเฉพาะทาง:
Gemma-4-31B-it-assistant สร้างขึ้นสำหรับการใช้เหตุผลแบบหลายรูปแบบ การเขียนโค้ด และเวิร์กโฟลว์แบบ Agent โดยเป็นรุ่นของโมเดล Dense 31B รุ่นเรือธงของ Google ที่ได้รับการปรับแต่งสำหรับ Assistant ซึ่งรองรับอินพุตข้อความและรูปภาพ (รวมถึงวิดีโอในรูปแบบลำดับเฟรม) และสร้างเอาต์พุตข้อความ โดยมีหน้าต่างบริบทขนาด 256,000 โทเค็นและรองรับมากกว่า 140 ภาษา โมเดลนี้อยู่ในอันดับที่ 3 ในบรรดาโมเดลแบบเปิดบนกระดานผู้นำด้านข้อความของ Arena AI โดยมีประสิทธิภาพเหนือกว่าโมเดลที่มีขนาดใหญ่กว่าถึง 20 เท่า และมีกลไก Attention แบบไฮบริดที่สลับระหว่าง Sliding-Window Attention ภายในเครื่องกับ Global Attention แบบเต็ม พร้อมการเรียกใช้ฟังก์ชันแบบเนทีฟสำหรับการสร้าง Agent ที่ทำงานได้ด้วยตนเอง
Gemma-4-31B-IT-NVFP4 มอบความสามารถเช่นเดียวกับ Gemma 4 31B โดยใช้หน่วยความจำเพียงบางส่วน ได้รับการลดความละเอียดเชิงตัวเลขด้วยเฟรมเวิร์ก ModelOpt ของ NVIDIA เป็นความแม่นยำ FP4 แบบ 4 บิต ซึ่งช่วยลดการใช้หน่วยความจำเหลือประมาณ 18.5 GB (เล็กกว่าโมเดลพื้นฐาน 68%) และทำการอนุมานได้เร็วขึ้นประมาณ 2.5 เท่า ขณะที่ยังคงคุณภาพของโมเดลดั้งเดิมไว้ได้ 97–99% เหมาะอย่างยิ่งสำหรับการนำไปใช้จริงที่มีความคุ้มค่าด้านค่าใช้จ่ายและมีอัตราการโอนถ่ายข้อมูลสูงบน NVIDIA RTX, DGX Spark และ GPU ของศูนย์ข้อมูล
ด้วย SageMaker JumpStart ลูกค้าสามารถติดตั้งใช้งานโมเดลใดก็ได้เหล่านี้ด้วยการคลิกเพียงไม่กี่ครั้ง เพื่อรองรับกรณีการใช้งาน AI เฉพาะของตน
ในการเริ่มต้นใช้งานโมเดลเหล่านี้ ให้ไปที่แคตตาล็อกโมเดล SageMaker JumpStart ในคอนโซล SageMaker หรือใช้ SageMaker Python SDK เพื่อติดตั้งใช้งานโมเดลไปยังบัญชี AWS ของคุณ ดูข้อมูลเพิ่มเติมเกี่ยวกับการติดตั้งใช้งานและการใช้โมเดลพื้นฐานบน SageMaker JumpStart ได้ที่เอกสารประกอบของ Amazon SageMaker JumpStart