Перевод базовых моделей из SageMaker Canvas в производственную среду

Проведено: 12 июня 2024 г.

Amazon SageMaker Canvas теперь поддерживает развертывание базовых моделей (FM) для конечных точек инференции в реальном времени в SageMaker. Это позволяет внедрить возможности генеративного искусственного интеллекта в производственную среду и использовать их вне рабочего пространства Canvas. SageMaker Canvas — это рабочее пространство без программного кода, которое позволяет аналитикам и менее квалифицированным специалистам по работе с данными строить точные прогнозы машинного обучения и использовать возможности генеративного искусственного интеллекта.

SageMaker Canvas предоставляет доступ к моделям FM на основе Amazon Bedrock и SageMaker JumpStart, поддерживает настройку на основе RAG и тонкую настройку моделей FM. С сегодняшнего дня пользователи могут развертывать модели FM на основе SageMaker JumpStart, в том числе Falcon-7B и Llama-2, на конечных точках SageMaker. Это упрощает интеграцию возможностей генеративного искусственного интеллекта в приложения вне рабочего пространства SageMaker Canvas. Модели FM на основе Amazon Bedrock уже доступны через единый API вне рабочего пространства SageMaker. Упрощая процесс развертывания, SageMaker Canvas ускоряет окупаемость инвестиций и обеспечивает плавный переход из экспериментальной среды в производственную.

Чтобы начать, войдите в SageMaker Canvas и получите доступ к моделям FM, работающим на основе SageMaker JumpStart. Выберите модель и разверните ее с соответствующими конфигурациями конечных точек, например бессрочно или на определенный период времени. На развернутые модели будут начисляться платежи за инференцию SageMaker. Новый пользователь может получить доступ к новейшей версии, запустив SageMaker Canvas непосредственно с консоли AWS. Существующий пользователь может получить доступ к новейшей версии SageMaker Canvas, нажав «Выйти» и снова выполнив вход.

Расширенная функция теперь доступна во всех регионах AWS, где поддерживается SageMaker Canvas. Дополнительные сведения см. в документации к продукту SageMaker Canvas.