Перевод базовых моделей с точной настройкой из SageMaker Canvas в производственную среду

Проведено: 19 июля 2024 г.

Amazon SageMaker Canvas теперь поддерживает развертывание базовых моделей (FM) с точной настройкой для конечных точек вывода в реальном времени в SageMaker. Это позволяет внедрить возможности генеративного искусственного интеллекта в производственную среду и использовать их вне рабочего пространства Canvas. SageMaker Canvas — это рабочее пространство без программного кода, которое позволяет аналитикам и менее квалифицированным специалистам по работе с данными строить точные прогнозы машинного обучения и использовать возможности генеративного искусственного интеллекта.

SageMaker Canvas предоставляет доступ к базовым моделям с точной настройкой на основе Amazon Bedrock и SageMaker JumpStart, таким как варианты Amazon Titan Express, Falcon-7B-Instruct, Falcon-40B-Instruct и Flan-T5. Можно загрузить набор данных, выбрать FM для точной настройки, а SageMaker Canvas автоматически создаст и настроит модель, адаптируя модели к закономерностям и нюансам конкретного сценария использования, что повышает эффективность ответов модели.
С сегодняшнего дня пользователи могут развертывать FM с точной настройкой в SageMaker. Это упрощает интеграцию возможностей генеративного искусственного интеллекта в приложения вне рабочего пространства SageMaker Canvas.

Для начала войдите в SageMaker Canvas, чтобы получить доступ к моделям FM с точной настройкой. Выберите модель и разверните ее с соответствующими конфигурациями конечных точек, например бессрочно или на определенный период времени. На развернутые модели будут начисляться платежи за инференцию SageMaker. Новый пользователь может получить доступ к новейшей версии, запустив SageMaker Canvas непосредственно с консоли AWS. Существующий пользователь может получить доступ к новейшей версии SageMaker Canvas, нажав «Выйти» и снова выполнив вход.

Расширенная функция теперь доступна во всех регионах AWS, где поддерживается SageMaker Canvas. Дополнительные сведения см. в документации к продукту SageMaker Canvas.