Модели GLM-5.2 FP8, NVIDIA-Nemotron-Nano-12B-v2 и GLM-OCR теперь доступны в Amazon SageMaker JumpStart
Модели GLM-5.2 FP8 и GLM-OCR от Z.ai, а также Nemotron-Nano-12B-v2 от NVIDIA теперь доступны в Amazon SageMaker JumpStart, что расширяет портфель базовых моделей, доступных клиентам AWS. Эти три модели предоставляют специализированные возможности, в том числе долгосрочное агентное проектирование, эффективные гибридные логические рассуждения и продвинутый анализ документов, позволяя клиентам развертывать высокопроизводительные и масштабируемые ИИ-решения на базе инфраструктуры AWS.
Модель GLM-5.2 FP8 оптимизирована для долгосрочных задач и рабочих процессов агентного проектирования, например для полного цикла разработки программного обеспечения – от составления требований до итогового развертывания. В отношении работы с долгосрочными задачами она делает значительный шаг вперед по сравнению со своей предшественницей, GLM-5.1. Она впервые предоставляет целиком доступное для использования контекстное окно размером в 1 млн токенов, которое позволяет обрабатывать контекст разработки на уровне целых проектов, уверенно справляться с долгосрочными задачами, строго соблюдать стандарты проектирования и выполнять рабочие процессы полной разработки за одну задачу.
Модель NVIDIA-Nemotron-Nano-12B-v2 отлично справляется с задачами, в которых необходимы как логические рассуждения (она обладает высокой пропускной способностью логического вывода), так и выдача ответов без них, что делает ее идеальной для корпоративных задач, требующих как точности, так и эффективности. В ней используется гибридная архитектура на основе Mamba-2 и трансформеров с длиной контекста в 128 тыс. токенов, которая генерирует цепочки логических рассуждений, прежде чем выдавать окончательные ответы. Ее компактный дизайн с 12 млрд параметров обеспечивает сопоставимую или лучшую точность по сравнению с ведущими открытыми моделями, а также максимум в 6 раз большую пропускную способность логического вывода.
Модель GLM-OCR обеспечивает точный, быстрый и всесторонний анализ сложных реальных материалов, включая отсканированные PDF-документы, рукописные заметки, объемные научные статьи с формулами, таблицы с множеством столбцов, документацию по коду и многоязычный текст. Эта мультимодальная модель с 0,9 млрд параметров воссоздает структуру, таблицы и формулы в виде упорядоченных файлов Markdown, JSON или LaTeX с достаточно низкой задержкой для сервисов реального времени и краевых устройств, благодаря чему она идеально подходит для крупномасштабных рабочих процессов обработки документов или извлечения данных финансовых счетов.
Используя SageMaker JumpStart, клиенты могут развернуть любую из этих моделей всего несколькими щелчками мыши для своих примеров использования искусственного интеллекта.
Чтобы начать работу с этими моделями, откройте каталог моделей SageMaker JumpStart в консоли SageMaker или воспользуйтесь пакетом средств разработки ПО (SDK) SageMaker для Python, чтобы развернуть модели в своем аккаунте AWS. Подробные инструкции о развертывании и использовании базовых моделей в SageMaker JumpStart см. в документации Amazon SageMaker JumpStart.