Model GLM-5.2 FP8, NVIDIA-Nemotron-Nano-12B-v2, dan GLM-OCR kini tersedia di Amazon SageMaker JumpStart
Model GLM-5.2 FP8 dari Z.ai, Nemotron-Nano-12B-v2 dari NVIDIA, dan GLM-OCR dari Z.ai kini tersedia di Amazon SageMaker JumpStart, memperluas portofolio model dasar yang tersedia untuk pelanggan AWS. Ketiga model ini menghadirkan kemampuan khusus yang mencakup rekayasa agen dengan cakrawala jangka panjang, penalaran hibrida yang efisien, serta pemahaman dokumen tingkat lanjut, sehingga memungkinkan pelanggan untuk menerapkan solusi AI berkinerja tinggi dan dapat diskalakan pada infrastruktur AWS.
GLM-5.2 FP8 dioptimalkan untuk tugas-tugas jangka panjang dan alur kerja rekayasa agenik seperti pengembangan perangkat lunak siklus penuh dari persyaratan hingga deployment. Ini menghadirkan lompatan substansial dalam kemampuan tugas jangka panjang dibandingkan pendahulunya, GLM-5.1, dan untuk pertama kalinya, menyediakan jendela konteks 1 juta token yang benar-benar dapat digunakan, memungkinkannya untuk menangani konteks rekayasa tingkat proyek, mengeksekusi tugas jangka panjang dengan andal, mengikuti standar rekayasa secara konsisten, dan menyelesaikan alur kerja pengembangan penuh dalam satu tugas.
NVIDIA-Nemotron-Nano-12B-v2 unggul dalam tugas penalaran terpadu dan non-penalaran dengan throughput inferensi tinggi, menjadikannya ideal untuk aplikasi perusahaan yang membutuhkan akurasi dan efisiensi. Algoritma ini menggunakan arsitektur hibrida Mamba-2 dan Transformer dengan panjang konteks 128K, menghasilkan jejak penalaran sebelum diakhiri dengan respons akhir. Desain parameter 12B yang ringkasnya mencapai akurasi yang setara atau lebih baik daripada model open source terkemuka, sekaligus memberikan throughput inferensi hingga 6 kali lebih tinggi.
GLM-OCR menyediakan pemahaman dokumen yang akurat, cepat, dan komprehensif untuk materi dunia nyata yang kompleks, termasuk PDF hasil pemindaian, catatan tulisan tangan, makalah akademis padat dengan rumus, tabel multi-kolom, dokumentasi kode, dan teks multibahasa. Model multimodal dengan 0,9 miliar parameter ini merekonstruksi struktur, tabel, dan rumus menjadi Markdown, JSON, atau LaTeX yang rapi, dengan latensi yang cukup rendah untuk layanan real-time dan perangkat edge—ideal untuk pemrosesan dokumen skala besar dan alur kerja ekstraksi faktur.
Dengan SageMaker JumpStart, pelanggan dapat men-deploy salah satu model ini hanya dengan beberapa klik untuk mengatasi kasus penggunaan AI spesifik mereka.
Untuk memulai dengan model ini, navigasikan ke katalog model SageMaker JumpStart di konsol SageMaker atau gunakan SageMaker Python SDK untuk men-deploy model ke akun AWS Anda. Untuk informasi selengkapnya tentang men-deploy dan penggunaan model fondasi di SageMaker JumpStart, lihat dokumentasi Amazon SageMaker JumpStart.