GLM-5.2 FP8、NVIDIA-Nemotron-Nano-12B-v2 和 GLM-OCR 模型現已適用於 Amazon SageMaker JumpStart

張貼日期: 2026年8月10日

Z.ai GLM-5.2 FP8、NVIDIA-Nemotron-Nano-12B-v2 和 Z.ai GLM-OCR 模型現已適用於 Amazon SageMaker JumpStart,從而擴大 AWS 客戶的可用基礎模型產品組合。這三種模型提供涵蓋長期代理式工程、高效混合推理和進階文件理解的專業功能,使客戶能夠在 AWS 基礎結構上部署高效能且可擴展的 AI 解決方案。

GLM-5.2 FP8 針對長期任務和代理式工程工作流程 (例如從需求到部署的全週期軟體開發) 進行了最佳化。該模型與前代 GLM-5.1 相比,在長期任務處理能力方面有著顯著提升,並且首次提供了真正實用的 1M 字符內容視窗,使其能夠處理專案級的工程內容、可靠地執行長期執行的任務、一致地遵循工程標準,並在單一任務中完成完整的開發工作流程。

NVIDIA-Nemotron-Nano-12B-v2 在具有高推論輸送量的統一推理和非推理任務方面表現出色,因此非常適合需要準確性和效率的企業應用案例。該模型使用具有 128K 內容長度的混合 Mamba-2 和變壓器架構,能夠在最終回應結束之前生成推理記錄。其緊湊的 12B 參數設計,在準確性方面可與領先開放式模型相提並論或更為優秀,同時可提供高達 6 倍的推論輸送量。

GLM-OCR 能夠為複雜的真實世界資料 (包括掃描的 PDF、手寫筆記、帶有公式的密集學術論文、多欄資料表、程式碼文件和多語言文字) 提供準確、快速且全面的文件理解功能。此 0.9B 參數多模態模型會將結構、資料表和公式重建為乾淨的 Markdown、JSON 或 LaTeX,而且具備足以用於即時服務和邊緣裝置的較低延遲,非常適合大規模文件處理和發票提取工作流程。

透過 SageMaker JumpStart,客戶只需點擊幾下,即可部署任何一種模型來滿足其特定 AI 使用案例。

若要開始使用這些模型,請前往 SageMaker 主控台中的 SageMaker JumpStart 模型目錄,或使用 SageMaker Python SDK 將模型部署至您的 AWS 帳戶。如需在 SageMaker JumpStart 中部署與使用基礎模型的詳細資訊,請參閱 Amazon SageMaker JumpStart 文件