โมเดล GLM-5.2 FP8, NVIDIA-Nemotron-Nano-12B-v2 และ GLM-OCR พร้อมใช้งานบน Amazon SageMaker JumpStart แล้ว
ขณะนี้ โมเดล GLM-5.2 FP8 ของ Z.ai, Nemotron-Nano-12B-v2 ของ NVIDIA และ GLM-OCR ของ Z.ai พร้อมใช้งานบน Amazon SageMaker JumpStart ซึ่งขยายพอร์ตโฟลิโอของโมเดลพื้นฐานที่พร้อมให้บริการแก่ลูกค้า AWS โมเดลทั้งสามนี้มาพร้อมความสามารถเฉพาะทางที่ครอบคลุมวิศวกรรมแบบ Agent ระยะยาว การใช้เหตุผลแบบไฮบริดที่มีประสิทธิภาพ และการทำความเข้าใจเอกสารขั้นสูง ซึ่งช่วยให้ลูกค้าสามารถติดตั้งใช้งานโซลูชัน AI ที่มีประสิทธิภาพสูงและปรับขนาดได้บนโครงสร้างพื้นฐาน AWS
GLM-5.2 FP8 ได้รับการเพิ่มประสิทธิภาพสำหรับงานระยะยาวและเวิร์กโฟลว์วิศวกรรมแบบ Agent เช่น การพัฒนาซอฟต์แวร์แบบครบวงจรตั้งแต่ข้อกำหนดไปจนถึงการนำไปใช้จริง โมเดลนี้มอบความสามารถด้านงานระยะยาวที่ก้าวกระโดดอย่างมากเมื่อเทียบกับ GLM-5.1 รุ่นก่อนหน้า และเป็นครั้งแรกที่มีหน้าต่างบริบทขนาด 1 ล้านโทเค็นที่ใช้งานได้จริง ซึ่งช่วยให้สามารถจัดการบริบททางวิศวกรรมในระดับโปรเจกต์ ดำเนินงานที่ใช้เวลานานได้อย่างเชื่อถือได้ ปฏิบัติตามมาตรฐานทางวิศวกรรมอย่างสม่ำเสมอ และดำเนินเวิร์กโฟลว์การพัฒนาแบบครบวงจรให้เสร็จสมบูรณ์ภายในงานเดียว
NVIDIA-Nemotron-Nano-12B-v2 มีประสิทธิภาพโดดเด่นในงานการใช้เหตุผลและงานที่ไม่ใช้การใช้เหตุผลแบบรวม โดยมีอัตราการโอนถ่ายข้อมูลในการอนุมานสูง จึงเหมาะอย่างยิ่งสำหรับแอปพลิเคชันระดับองค์กรที่ต้องการทั้งความแม่นยำและประสิทธิภาพ โมเดลนี้ใช้สถาปัตยกรรมแบบไฮบริด Mamba-2 และตัวแปลงข้อมูล พร้อมความยาวบริบท 128K โดยสร้างลำดับการใช้เหตุผลก่อนสรุปเป็นการตอบกลับขั้นสุดท้าย การออกแบบที่กะทัดรัดด้วยพารามิเตอร์ 12B ให้ความแม่นยำเทียบเท่าหรือดีกว่าโมเดลแบบเปิดชั้นนำ พร้อมทั้งให้อัตราการโอนถ่ายข้อมูลในการอนุมานสูงขึ้นถึง 6 เท่า
GLM-OCR มอบการทำความเข้าใจเอกสารที่แม่นยำ รวดเร็ว และครอบคลุมสำหรับเอกสารในโลกจริงที่ซับซ้อน รวมถึง PDF ที่สแกน บันทึกที่เขียนด้วยลายมือ เอกสารวิชาการที่มีเนื้อหาหนาแน่นพร้อมสูตร ตารางแบบหลายคอลัมน์ เอกสารประกอบโค้ด และข้อความหลายภาษา โมเดลหลายรูปแบบที่มีพารามิเตอร์ 0.9B นี้สร้างโครงสร้าง ตาราง และสูตรขึ้นใหม่เป็น Markdown, JSON หรือ LaTeX ที่เป็นระเบียบ โดยมีเวลาแฝงต่ำเพียงพอสำหรับบริการแบบเรียลไทม์และอุปกรณ์ Edge จึงเหมาะอย่างยิ่งสำหรับเวิร์กโฟลว์การประมวลผลเอกสารในระดับขนาดใหญ่และการดึงข้อมูลจากใบแจ้งหนี้
ด้วย SageMaker JumpStart ลูกค้าสามารถติดตั้งใช้งานโมเดลใดก็ได้เหล่านี้ด้วยการคลิกเพียงไม่กี่ครั้ง เพื่อรองรับกรณีการใช้งาน AI เฉพาะของตน
ในการเริ่มต้นใช้งานโมเดลเหล่านี้ ให้ไปที่แคตตาล็อกโมเดล SageMaker JumpStart ในคอนโซล SageMaker หรือใช้ SageMaker Python SDK เพื่อติดตั้งใช้งานโมเดลไปยังบัญชี AWS ของคุณ ดูข้อมูลเพิ่มเติมเกี่ยวกับการติดตั้งใช้งานและการใช้โมเดลพื้นฐานบน SageMaker JumpStart ได้ที่เอกสารประกอบของ Amazon SageMaker JumpStart