Los modelos GLM-5.2 FP8, NVIDIA-Nemotron-Nano-12B-v2 y GLM-OCR ya están disponibles en Amazon SageMaker JumpStart
Los modelos GLM-5.2 FP8 de Z.ai, Nemotron-Nano-12B-v2 de NVIDIA y GLM-OCR de Z.ai ya están disponibles en Amazon SageMaker JumpStart, lo que amplía la cartera de modelos fundacionales disponibles para los clientes de AWS. Estos tres modelos ofrecen capacidades especializadas que abarcan la ingeniería agéntica a largo plazo, el razonamiento híbrido eficiente y la comprensión avanzada de documentos. De este modo, los clientes pueden implementar soluciones de IA escalables y de alto rendimiento en la infraestructura de AWS.
El modelo GLM-5.2 FP8 está optimizado para tareas de larga duración y flujos de trabajo de ingeniería agéntica, como el desarrollo de software de ciclo completo, desde los requisitos hasta la implementación. Ofrece un salto sustancial en la capacidad de tareas a largo plazo con respecto a su predecesor, el GLM-5.1, y, por primera vez, proporciona una ventana de contexto de 1 millón de tokens verdaderamente utilizables. Esto le permite administrar el contexto de ingeniería a nivel de proyecto, ejecutar tareas de larga duración de forma fiable, seguir los estándares de ingeniería de forma coherente y completar flujos de trabajo de desarrollo completos en una sola tarea.
El modelo NVIDIA-Nemotron-Nano-12B-v2 se destaca en tareas unificadas de razonamiento y de no razonamiento con un alto rendimiento de inferencia. Esto lo hace ideal para aplicaciones empresariales que requieren precisión y eficiencia. Utiliza una arquitectura híbrida de Mamba-2 y Transformer con una longitud de contexto de 128 000 tokens, lo que genera trazas de razonamiento antes de concluir con las respuestas finales. Su diseño compacto de 12 000 millones de parámetros logra una precisión comparable o superior a la de los principales modelos abiertos, a la vez que ofrece hasta 6 veces más rendimiento de inferencia.
El modelo GLM-OCR proporciona una comprensión precisa, rápida y completa de documentos para materiales complejos del mundo real, incluidos archivos PDF escaneados, notas manuscritas, trabajos académicos densos con fórmulas, tablas de varias columnas, documentación de códigos y texto multilingüe. Este modelo multimodal de 900 millones de parámetros reconstruye estructuras, tablas y fórmulas en Markdown, JSON o LaTeX bien formateados, con una latencia lo suficientemente baja como para ofrecer servicios en tiempo real y ejecutarse en dispositivos periféricos. Es ideal para el procesamiento de documentos a gran escala y los flujos de trabajo de extracción de datos de facturas.
Con SageMaker JumpStart, los clientes pueden implementar cualquiera de estos modelos con solo unos clics para abordar sus casos de uso específicos de IA.
Para empezar a utilizar estos modelos, navegue hasta el catálogo de modelos JumpStart de SageMaker en la consola de SageMaker o utilice el SDK de Python de SageMaker para implementar los modelos en su cuenta de AWS. Para obtener más información sobre la implementación y el uso de modelos fundacionales en SageMaker JumpStart, consulte la documentación de Amazon SageMaker JumpStart.