GLM-5.2 FP8、NVIDIA-Nemotron-Nano-12B-v2、GLM-OCR の各モデルが Amazon SageMaker JumpStart で利用可能に
Z.ai の GLM-5.2 FP8、NVIDIA の Nemotron-Nano-12B-v2、Z.ai の GLM-OCR の各モデルが Amazon SageMaker JumpStart で利用できるようになり、AWS のお客様が利用できる基盤モデルのポートフォリオが拡大しました。これら 3 つのモデルには、長期的なエージェンティックエンジニアリング、効率的なハイブリッド推論、高度なドキュメント理解などの専門的な機能が備わっており、お客様はハイパフォーマンスでスケーラブルな AI ソリューションを AWS インフラストラクチャ上でデプロイできます。
GLM-5.2 FP8 は、要件からデプロイまでのフルサイクルのソフトウェア開発など、長期的なタスクとエージェンティックエンジニアリングワークフロー向けに最適化されています。長期的なタスクの処理能力は、前身の GLM-5.1 から大幅に向上しています。また、初めて実用的な 100 万トークンのコンテキストウィンドウを提供し、プロジェクトレベルのエンジニアリングコンテキストの処理、長時間実行されるタスクの確実な実行、エンジニアリング標準への一貫した準拠、1 つのタスク内での開発ワークフロー全体の完了を可能にします。
NVIDIA-Nemotron-Nano-12B-v2 は、高い推論スループットで推論タスクと非推論タスクを統合的に処理することに優れており、正確性と効率の両方が求められるエンタープライズアプリケーションに適しています。128K トークンのコンテキスト長を備えた Mamba-2 と Transformer のハイブリッドアーキテクチャを使用し、最終的な回答を出す前に推論トレースを生成します。120 億パラメータのコンパクトな設計でありながら、主要なオープンモデルと同等以上の正解率を達成し、推論スループットは最大 6 倍に向上しています。
GLM-OCR を使用すると、スキャンされた PDF、手書きのメモ、数式を含む情報量の多い学術論文、複数列の表、コードドキュメント、多言語テキストなど、実際に使用される複雑な資料を正確、高速、かつ包括的に理解できます。この 9 億パラメータのマルチモーダルモデルでは、構造、表、数式をクリーンな Markdown、JSON、LaTeX 形式で再構築できます。レイテンシーもリアルタイムサービスやエッジデバイスで利用できるほど低く、大規模なドキュメント処理や請求書抽出のワークフローに適しています。
SageMaker JumpStart を使用すると、お客様は数回クリックするだけでこれらのモデルをデプロイし、特定の AI ユースケースに対応できます。
これらのモデルの使用を開始するには、SageMaker コンソールの SageMaker JumpStart モデルカタログにアクセスするか、SageMaker Python SDK を使用して AWS アカウントにモデルをデプロイしてください。SageMaker JumpStart での基盤モデルのデプロイと使用方法の詳細については、Amazon SageMaker JumpStart のドキュメントをご覧ください。