Modelle GLM-5.2 FP8, NVIDIA-Nemotron-Nano-12B-v2 und GLM-OCR jetzt auf Amazon SageMaker JumpStart verfügbar
Die Modelle GLM-5.2 FP8 von Z.ai, Nemotron-Nano-12B-v2 von NVIDIA und die GLM-OCR-Modelle von Z.ai sind jetzt auf Amazon SageMaker JumpStart verfügbar und erweitern damit das Portfolio der Basismodelle, die AWS-Kunden zur Verfügung stehen. Diese drei Modelle bieten spezielle Funktionen, die Agentenentwicklung mit langem Zeithorizont, effizientes hybrides Reasoning und fortschrittliches Dokumentenverständnis umfassen, sodass Kunden leistungsstarke, skalierbare KI-Lösungen auf AWS-Infrastruktur bereitstellen können.
GLM-5.2 FP8 ist für Aufgaben mit langem Zeithorizont und agentenbasierte Entwicklungsworkflows wie die vollständige Softwareentwicklung von den Anforderungen bis zur Bereitstellung optimiert. Es bietet im Vergleich zum Vorgänger GLM-5.1 einen erheblichen Sprung in Bezug auf Aufgaben mit langem Zeithorizont und bietet zum ersten Mal ein wirklich nutzbares 1-M-Token-Kontextfenster, das es ermöglicht, den Entwicklungskontext auf Projektebene zu verarbeiten, lang andauernde Aufgaben zuverlässig auszuführen, Entwicklungsstandards konsequent einzuhalten und vollständige Entwicklungsabläufe in einer einzigen Aufgabe abzuschließen.
NVIDIA-Nemotron-Nano-12B-v2 zeichnet sich beim einheitlichen Reasoning sowie bei Aufgaben ohne Reasoning durch einen hohen Inferenzdurchsatz aus und eignet sich daher hervorragend für Unternehmensanwendungen, die sowohl Genauigkeit als auch Effizienz erfordern. Es verwendet eine hybride Mamba-2- und Transformer-Architektur mit einer Kontextlänge von 128 K und generiert Reasoning-Traces, bevor es endgültige Antworten liefert. Sein kompaktes 12B-Parameterdesign erreicht eine vergleichbare oder höhere Genauigkeit als führende offene Modelle und bietet gleichzeitig einen bis zu sechsmal höheren Inferenzdurchsatz.
GLM-OCR bietet genaues, schnelles und umfassendes Dokumentenverständnis für komplexe reale Materialien wie gescannte PDFs, handschriftliche Notizen, komplexe wissenschaftliche Arbeiten mit Formeln, mehrspaltige Tabellen, Codedokumentation und mehrsprachigen Text. Dieses multimodale Modell mit 0,9B-Parametern rekonstruiert Struktur, Tabellen und Formeln in sauberem Markdown, JSON oder LaTeX, wobei die Latenz niedrig genug für Echtzeitdienste und Edge-Geräte ist – optimal für umfangreiche Workflows zur Dokumentenverarbeitung und Rechnungsextraktion.
Mit SageMaker JumpStart können Kunden jedes dieser Modelle mit nur wenigen Klicks für ihre spezifischen KI-Anwendungsfälle bereitstellen.
Um mit diesen Modellen zu beginnen, navigieren Sie in der SageMaker-Konsole zum SageMaker JumpStart-Modellkatalog oder nutzen Sie das SageMaker-Python-SDK, um die Modelle in Ihrem AWS-Konto bereitzustellen. Weitere Informationen zur Bereitstellung und Verwendung von Foundation-Modellen in SageMaker JumpStart finden Sie in der Dokumentation zu Amazon SageMaker JumpStart.