이제 Amazon SageMaker JumpStart에서 GLM-5.2 FP8, NVIDIA-Nemotron-Nano-12B-v2 및 GLM-OCR 모델 사용 가능
이제 Z.ai의 GLM-5.2 FP8, NVIDIA의 Nemotron-Nano-12B-v2 및 Z.ai의 GLM-OCR 모델을 Amazon SageMaker JumpStart에서 사용할 수 있게 됨에 따라 AWS 고객에게 제공되는 파운데이션 모델 포트폴리오를 확장할 수 있게 되었습니다. 이번 3가지 모델은 장기적인 에이전틱 엔지니어링, 효율적인 하이브리드 추론, 고급 문서 이해를 아우르는 특수 기능을 제공하므로 고객은 AWS 인프라에서 확장 가능한 고성능 AI 솔루션을 배포할 수 있습니다.
GLM-5.2 FP8은 요구 사항에서 배포에 이르는 전체 주기 소프트웨어 개발과 같은 장기적인 태스크 및 에이전틱 엔지니어링 워크플로에 최적화되어 있습니다. 이전 GLM-5.1보다 장기적인 태스크 기능이 크게 향상되었으며, 처음으로 진정으로 사용 가능한 100만 토큰 컨텍스트 창을 제공하여 프로젝트 수준의 엔지니어링 컨텍스트를 처리하고, 오래 실행되는 태스크를 안정적으로 실행하고, 엔지니어링 표준을 일관되게 준수하고, 단일 태스크로 전체 개발 워크플로를 완료할 수 있습니다.
NVIDIA-Nemotron-Nano-12B-v2는 높은 추론 처리량을 통해 통합 추론 및 비추론 태스크에 탁월한 성능을 발휘하므로 정확성과 효율성을 모두 요구하는 엔터프라이즈 애플리케이션에 적합합니다. 이 모델은 컨텍스트 길이가 12만 8,000개에 달하는 하이브리드 Mamba-2 및 트랜스포머 아키텍처를 사용하여 최종 응답으로 결론을 내리기 전에 추론 트레이스를 생성합니다. 컴팩트한 120억 개 파라미터 설계 덕분에 최대 6배 더 많은 추론 처리량이 제공되는 동시에 주요 개방형 모델과 비슷하거나 더 나은 정확성이 제공됩니다.
GLM-OCR은 스캔된 PDF, 손으로 쓴 메모, 공식이 포함된 난해한 학술 논문, 여러 열로 구성된 테이블, 코드 문서, 다국어 텍스트 등 복잡한 실제 자료에 대한 정확하고 빠르며 포괄적인 문서 이해 기능을 제공합니다. 이 9억 개 파라미터 멀티모달 모델은 구조, 테이블 및 공식을 깔끔한 Markdown, JSON 또는 LaTeX로 재구성하며 실시간 서비스 및 엣지 디바이스에 사용할 수 있을 만큼 지연 시간이 짧아 대규모 문서 처리 및 인보이스 추출 워크플로에 적합합니다.
SageMaker JumpStart를 사용하면 고객은 몇 번의 클릭만으로 이러한 모델을 배포하여 특정 AI 사용 사례를 해결할 수 있습니다.
이 모델을 시작하려면 SageMaker 콘솔의 SageMaker JumpStart 모델 카탈로그로 이동하거나 SageMaker Python SDK를 사용하여 모델을 AWS 계정에 배포하세요. SageMaker JumpStart에서 파운데이션 모델을 배포하고 사용하는 방법에 대한 자세한 내용은 Amazon SageMaker JumpStart 설명서를 참조하세요.