Вопросы и ответы по Amazon SageMaker

SageMaker предоставляет специально разработанные инструменты управления машинным обучением на протяжении всего жизненного цикла. С помощью Менеджера ролей Amazon SageMaker администраторы могут определить минимальные разрешения за считаные минуты. Сервис Карты моделей Amazon SageMaker облегчает сбор, извлечение и обмен важной информацией о модели от ее создания до развертывания, а Панель управления моделью Amazon SageMaker позволяет получать информацию о поведении производственной модели в одном месте. Подробнее
см. в разделе Управление машинным обучением с Amazon SageMaker.

Определите минимальные разрешения за несколько минут с помощью Менеджера ролей SageMaker. Этот сервис предоставляет базовый набор разрешений для операций машинного обучения и персон с каталогом предварительно созданных политик IAM. Вы можете сохранить базовые разрешения или настроить их в соответствии с вашими конкретными потребностями. С помощью нескольких подсказок вы сможете быстро ввести такие общие элементы управления, как границы доступа к сети и ключи шифрования. Затем SageMaker Role Manager автоматически создаст политику IAM. Вы можете обнаружить созданную роль и связанные с ней политики через консоль AWS IAM. Чтобы еще больше адаптировать разрешения к вашему сценарию использования, прикрепите управляемые политики IAM к роли IAM, которую вы создаете с помощью SageMaker Role Manager. Вы также можете добавить теги, которые помогут идентифицировать роль и упорядочить все сервисы AWS.

Сервис Карты моделей SageMaker помогает централизовать и стандартизировать документацию модели на протяжении всего жизненного цикла машинного обучения, создавая единый источник истины для информации о модели. Карты моделей SageMaker автоматически заполняют данные об обучении для ускорения процесса документирования. Вы также можете добавить такие детали, как назначение модели и цели производительности. Вы можете прикрепить результаты оценки модели к карте модели и обеспечить визуализацию для получения ключевых сведений о производительности модели. Карты моделей SageMaker можно легко передать другим, экспортировав в формат PDF.

Панель управления моделью SageMaker предоставляет полный обзор развернутых моделей и конечных точек, позволяя отслеживать ресурсы и нарушения поведения модели на одной панели. Это позволяет отслеживать поведение модели по четырем параметрам, включая качество данных и модели, а также смещение и дрейф атрибуции характеристик благодаря интеграции с Монитором модели SageMaker и SageMaker Clarify. Панель управления моделью SageMaker также обеспечивает интегрированный опыт настройки и получения предупреждений об отсутствующих и неактивных заданиях мониторинга модели, а также об отклонениях в поведении модели в отношении качества модели, качества данных, смещения смещения и смещения атрибуции характеристик. Вы можете дополнительно проверить отдельные модели и проанализировать факторы, влияющие на производительность модели с течением времени. Затем вы можете проследить за тем, как специалисты по машинному обучению принимают меры по исправлению ситуации.

SageMaker JumpStart помогает быстро и легко начать работу с машинным обучением. В SageMaker JumpStart есть набор решений, которые могут использоваться в большинстве типичных ситуаций и быстро развертываются всего за несколько щелчков мыши. Эти полностью настраиваемые решения демонстрируют применение шаблонов и примеров архитектуры AWS CloudFormation, чтобы вы могли ускорить процесс освоения машинного обучения. SageMaker JumpStart также предоставляет базовые модели и поддерживает развертывание за один щелчок мыши и точную настройку для более чем 150 популярных моделей с открытым исходным кодом, в том числе моделей для преобразования, обнаружения объектов и классификации изображений. 

SageMaker JumpStart предоставляет собственные и общедоступные модели. Список доступных базовых моделей см. в разделе Начало работы с Amazon SageMaker JumpStart.

Вы можете получить доступ к базовым моделям через Студию SageMaker, SDK SageMaker и Консоль управления AWS. Чтобы начать использовать собственные базовые модели, вы должны принять условия продажи на AWS Marketplace.

Нет. Ваши выводы и данные обучения не будут использоваться или передаваться клиентам для обновления или обучения базовой модели, которую SageMaker JumpStart представляет клиентам.

Нет. Собственные модели не позволяют клиентам просматривать вес моделей и сценарии.

Модели можно найти во всех регионах, где доступна Студия SageMaker, но возможность развертывания модели зависит от модели и доступности инстанса требуемого типа инстанса. Информацию о доступности региона AWS и требуемом инстансе можно найти на странице сведений о модели на Торговой площадке AWS.

Для собственных моделей взимается плата за программное обеспечение, установленная поставщиком модели, а также плата за инфраструктуру SageMaker в зависимости от используемого инстанса За общедоступные модели плата за инфраструктуру SageMaker взимается в зависимости от используемого инстанса. Дополнительные сведения см. в разделе цен на Amazon SageMaker и на AWS Marketplace.

Безопасность – главный приоритет AWS, и сервис SageMaker JumpStart разработан для обеспечения защиты. Поэтому SageMaker предоставляет клиентам право собственности и контроль над их контентом с помощью простых и эффективных инструментов. Эти инструменты позволяют определить, где будет храниться контент, обеспечить его безопасность при передаче и хранении, а также управлять доступом пользователей к сервисам и ресурсам AWS.

1. Мы не передаем информацию об обучении клиентов и выводах продавцам моделей на Торговой площадке AWS. Аналогичным образом, артефакты модели продавца (например, вес моделей) не передаются покупателю.
2. SageMaker JumpStart не использует модели клиентов, данные обучения или алгоритмы для улучшения своего сервиса и не передает третьим сторонам данные обучения клиентов и выводы.
3. В SageMaker JumpStart артефакты моделей машинного обучения шифруются при передаче и хранении.
4. Согласно Модели общей ответственности AWS, AWS несет ответственность за защиту глобальной инфраструктуры, на которой работают все сервисы AWS. Вы несете ответственность за контроль над контентом, размещенным в этой инфраструктуре.

Используя модель из Торговой площадки AWS или SageMaker JumpStart, пользователи берут на себя ответственность за качество вывода модели и признают возможности и ограничения, указанные в описании отдельной модели.

SageMaker JumpStart включает более 150 предварительно обученных общедоступных моделей от PyTorch Hub и TensorFlow Hub. Для задач, связанных с компьютерным зрением, например для классификации изображений и обнаружения объектов, вы можете применить такие модели, как RESNET, MobileNet и single-shot detector (SSD). Для текстовых задач, например для классификации предложений и текста, поиска ответов на вопросы, можно использовать модели BERT, RoBERTa и DistilBERT.

С помощью SageMaker JumpStart специалисты по анализу данных и разработчики машинного обучения могут легко обмениваться артефактами машинного обучения, включая блокноты и модели, в рамках своей организации. Администраторы могут создать хранилище, доступное определенному кругу пользователей. Все пользователи, имеющие разрешение на доступ к хранилищу, могут просматривать, находить и использовать модели и блокноты, а также публичное содержимое внутри SageMaker JumpStart. Пользователи могут выбирать артефакты для обучения моделей, развертывания конечных точек и выполнения блокнотов в SageMaker JumpStart.

С помощью SageMaker JumpStart вы можете ускорить выход на рынок при создании приложений машинного обучения. Модели и блокноты, созданные одной командой в вашей организации, могут быть легко переданы другим командам в вашей организации всего несколькими щелчками мыши. Внутренний обмен знаниями и повторное использование активов могут значительно повысить производительность вашей организации.

Amazon SageMaker Clarify теперь поддерживает оценку базовых моделей. Вы можете оценить, сравнить и выбрать лучшие базовые модели для вашего конкретного сценария использования. Просто выберите модель, которую вы хотите оценить для выполнения той или иной задачи, например ответа на вопросы или реферирования контента. Затем выберите критерии оценки (например, точность, объективность и надежность) и выгрузите свой собственный набор данных подсказок либо выберите один из встроенных общедоступных наборов данных. Для анализа ответов при работе с субъективными критериями или специфическим контентом, требующим тщательного анализа со стороны человека, можно привлечь своих сотрудников или управляемый персонал компании AWS. После завершения процесса настройки SageMaker Clarify проводит оценку и создает отчет, чтобы вы могли легко понять, как модель работает в контексте ключевых критериев. Оценить базовые модели в SageMaker JumpStart можно с помощью мастера оценки или любых базовых моделей вне хостинга на AWS, используя библиотеку с открытым исходным кодом.

Да. Администраторы могут контролировать, какие модели Amazon SageMaker JumpStart будут доступны для просмотра и использования в нескольких аккаунтах AWS и с несколькими реестрами пользователей. Подробнее см. в документации.

Набор инструментов для оптимизации логических выводов позволяет легко внедрить новейшие методы оптимизации логических выводов, предоставляя высочайшую экономическую эффективность (SOTA) в Amazon SageMaker и экономя месяцы работы разработчиков. Из самых популярных методов оптимизации, предоставляемых SageMaker, можно выбрать подходящий, заранее запустить задачи оптимизации, провести оценочное тестирование для определения производительности и точности модели, а затем развернуть оптимизированную модель на адресе SageMaker для получения логических выводов. В этом наборе инструментов предусмотрены решения для всех аспектов оптимизации модели, что позволяет больше сосредоточиться на бизнес-целях.

Набор инструментов для оптимизации логических выводов помогает повысить эффективность использования средств и сократить время вывода на рынок приложений, построенных на генеративном искусственном интеллекте. Полностью управляемый набор инструментов для оптимизации моделей предоставляет доступ к новейшим методам оптимизации посредством удобных инструментов. Со временем можно будет легко перейти на лучшее из доступных решений, поскольку набор инструментов постоянно адаптируется к инновационным решениям, новому аппаратному обеспечению и функциям хостинга.

Набор инструментов для оптимизации логических выводов поддерживает такие методы оптимизации, как спекулятивное декодирование, квантование и компиляция. Оптимизацию, которую необходимо добавить в модель, можно выбрать буквально за несколько минут, а Amazon SageMaker выполнит всю сложную работу по закупке аппаратного обеспечения, выбору контейнера глубокого обучения и настройке соответствующих параметров для выполнения задач оптимизации, а затем сохранит артефакты оптимизированной модели в указанном месте S3.

При спекулятивном декодировании можно начать работу с типовой модели, предоставляемой SageMaker, чтобы не создавать собственные типовые модели с нуля и не запрашивать оптимизацию маршрутизации и системного уровня. С помощью квантования можно выбрать тип точности, который необходимо использовать, и запустить задачи оценочного тестирования, чтобы проанализировать соотношение производительности и точности. Amazon SageMaker создаст исчерпывающий оценочный отчет, чтобы можно было выполнить анализ для поиска компромисса между производительностью и точностью. Благодаря функции компиляции, которую можно использовать в наиболее популярных моделях и их конфигурациях, Amazon SageMaker будет автоматически извлекать скомпилированные артефакты модели во время настройки и масштабирования адреса. Это значит, что можно будет уменьшить затраты на аппаратное обеспечение, не запуская задачи компиляции в процессе работы над продуктом.

Набор инструментов для оптимизации логических выводов Amazon SageMaker помогает сократить затраты и время на оптимизацию моделей генеративного ИИ, позволяя сосредоточиться на бизнес-задачах.

SageMaker Canvas – это сервис без кода с интуитивно понятным интерактивным интерфейсом, позволяющим создавать высокоточные прогнозы на основе машинного обучения с использованием ваших данных. SageMaker Canvas позволяет получать доступ и объединять данные из различных источников методом перетаскивания в пользовательском интерфейсе, автоматически очищая и подготавливая данные для минимизации ручной очистки. SageMaker Canvas применяет различные современные алгоритмы машинного обучения для поиска высокоточных прогнозных моделей и предоставляет интуитивно понятный интерфейс для составления прогнозов. Вы можете использовать SageMaker Canvas для создания намного более точных прогнозов в различных бизнес-приложениях и с легкостью взаимодействовать со специалистами по работе с данными и аналитиками на вашем предприятии, предоставляя совместный доступ к моделям, данным и отчетам. Дополнительные сведения о SageMaker Canvas см. в разделе вопросов и ответов об Amazon SageMaker Canvas.

При использовании SageMaker Canvas вы платите по факту использования. SageMaker Canvas позволяет интерактивно получать, исследовать и подготавливать данные из различных источников, обучать высокоточные модели машинного обучения на основе ваших данных и генерировать прогнозы. Счет выставляется за два компонента: плата за сессию, основанная на количестве часов, в течение которых используется SageMaker Canvas или выполняется вход в систему, и плата за обучение модели, основанная на размере набора данных, используемого для построения модели. Подробнее см. на странице цен на Amazon SageMaker Canvas.

Конвейеры Amazon SageMaker помогают создавать полностью автоматизированные рабочие процессы машинного обучения, начиная с подготовки данных и заканчивая развертыванием модели, позволяя увеличить количество используемых в производственной среде моделей машинного обучения до нескольких тысяч. С помощью SageMaker Python SDK можно создавать конвейеры, а также просматривать, выполнять и проверять их в визуальном интерфейсе SageMaker Studio. Конвейеры SageMaker возьмут на себя все управление данными при переходах между шагами, упаковку рецептов кода и оркестрацию выполнения, снижая время подготовки и программирования с нескольких месяцев до нескольких часов. При каждом выполнении рабочего процесса сохраняется информация обо всех обработанных данных и выполненных действиях, что позволяет специалистам по работе с данными и разработчикам систем машинного обучения быстро диагностировать и устранять проблемы.

Этап регистрации модели в Конвейере Amazon SageMaker можно использовать для консолидации всех моделей, которые могут быть развернуты в одном месте. Позже вы или кто-то другой из вашей команды сможете найти, просмотреть и утвердить эти модели для развертывания в реестре моделей SageMaker с помощью пользовательского интерфейса Студии SageMaker или Python SDK.

Конвейер SageMaker Pipeline состоит из «этапов». Вы можете выбрать любой из изначально поддерживаемых этапов для составления рабочего процесса, включающего различные функции SageMaker (например, обучение или оценка) либо других сервисов AWS (например, EMR или Lambda). Вы также можете перенести существующий код ML Python в Конвейер SageMaker, используя декоратор Python «@step» или добавив целые записные книжки Python в качестве компонентов Pipeline. Дополнительные сведения см. в руководстве для разработчиков Конвейеров SageMaker.

Конвейеры Amazon SageMaker автоматически сохраняют информацию обо всех компонентах модели и аудиторский след любых изменений, что устраняет необходимость в ручном отслеживании и может помочь вам достичь целей соответствия требованиям. С Конвейерами SageMaker вы можете отслеживать данные, код, обученные модели и т. п.

Дополнительная плата за использование Конвейеров SageMaker не начисляется. Вы оплачиваете только базовые тарифы за вычисления и отдельные сервисы AWS, которые используете в Конвейерах SageMaker.

Да. Компонентами Amazon SageMaker для конвейеров Kubeflow являются подключаемые модули с открытым исходным кодом, которые позволяют использовать конвейеры Kubeflow для определения рабочих процессов машинного обучения и применять SageMaker для маркировки данных, обучения и вывода. Конвейеры Kubeflow – это дополнение к Kubeflow, которое позволяет создавать и развертывать портативные масштабируемые комплексные конвейеры машинного обучения. Однако при использовании конвейеров Kubeflow операционным командам по машинному обучению необходимо управлять кластером Kubernetes на инстансах CPU и GPU и постоянно поддерживать высокий уровень его использования, чтобы снижать эксплуатационные расходы. Добиться максимального использования кластера со стороны подразделений по анализу и обработке данных достаточно сложно, что приводит к тому, что подразделения по операциям машинного обучения сталкиваются с дополнительными эксплуатационными расходами. Альтернативой кластеру Kubernetes, оптимизированному для машинного обучения, являются компоненты SageMaker для Kubeflow Pipelines. С их помощью можно использовать преимущества мощных возможностей SageMaker, таких как маркировка данных, полностью управляемая масштабируемая настройка гиперпараметров и распределенные задания обучения, безопасное и масштабируемое развертывание модели за один щелчок мышью и экономически эффективное обучение с использованием спотовых инстансов Эластичного вычислительного облака Amazon (Amazon EC2). При этом настраивать кластеры Kubernetes специально для выполнения заданий машинного обучения и управлять ими не требуется.

Дополнительная плата за использование компонентов SageMaker для конвейеров Kubeflow не начисляется. 

«Оператор в контуре управления» — это процесс участия человека во всех этапах жизненного цикла машинного обучения для повышения точности и релевантности моделей. Люди могут выполнять множество задач: от генерации и аннотации данных до анализа и настройки моделей. Вмешательство человека особенно важно для приложений на основе генеративного искусственного интеллекта, когда человек как запрашивает, так и потребляет контент. Поэтому крайне важно, чтобы люди обучали базовые модели выдавать точные, безопасные и релевантные ответы на запросы пользователей. Участие людей может помочь при решении нескольких задач. Во-первых, это создание высококачественных маркированных учебных наборов данных для приложений на основе генеративного искусственного интеллекта посредством обучения под наблюдением (когда человек имитирует стиль, продолжительность и точность реакции модели на запросы пользователя) и обучения с подкреплением на основе обратной связи с человеком (когда человек составляет рейтинг ответов модели и распределяет их по категориям). Во-вторых, это использование данных, генерируемых человеком, при адаптации базовых моделей для решения конкретных задач, либо данных, специфичных для вашей компании и предметной области, для обеспечения релевантности выходных данных модели.

Возможности «оператор в контуре управления» играют важную роль в создании и улучшении приложений на основе генеративного искусственного интеллекта, управляемых базовыми моделями. Высококвалифицированный персонал, обученный в соответствии с инструкциями по выполнению заданий, может предоставлять обратную связь, рекомендации и материалы, а также оценивать такие виды деятельности, как сбор демонстрационных данных для обучения базовых моделей, корректировка и улучшение образцов ответов, доработка моделей на основе данных компаний и отрасли, защита от токсичности и предвзятости и многое другое. Таким образом, возможности «оператор в контуре управления» способны повысить точность и производительность модели. 

Amazon SageMaker Ground Truth предлагает самый полный набор возможностей «оператор в контуре управления». Amazon SageMaker Ground Truth можно использовать двумя способами: по принципу самообслуживания и под управлением AWS. В режиме самообслуживания аннотаторы данных, авторы контента и инженеры подсказок (штатные, управляемые поставщиком или из числа представителей общественности) могут использовать наш пользовательский интерфейс с небольшим объемом кода для ускорения выполнения задач типа «оператор в контуре данных», а также гибко создавать собственные рабочие процессы и управлять ими. В случае использования сервиса под управлением AWS (SageMaker Ground Truth Plus) мы берем на себя самую трудную работу, включая подбор персонала, подходящего для вашего варианта использования, и управление им. SageMaker Ground Truth Plus разрабатывает и персонализирует комплексный рабочий процесс (включая всестороннее обучение персонала и обеспечение качества) и предоставляет в ваше распоряжение квалифицированную рабочую группы под управлением AWS, которая обучена выполнению конкретных задач и отвечает вашим требованиям к качеству, безопасности и соблюдению нормативных требований. 

SageMaker Data Wrangler сокращает время, необходимое для сбора и подготовки данных для машинного обучения. С помощью единого интерфейса SageMaker Studio можно просматривать и импортировать данные из Amazon S3, Amazon Athena, Amazon Redshift, AWS Lake Formation, Amazon EMR, Snowflake и Databricks всего за несколько шагов. Вы также можете запрашивать и импортировать сведения, которые передаются из более чем 50 источников и регистрируются в каталоге данных AWS Glue с помощью Amazon AppFlow. SageMaker Data Wrangler автоматически загрузит, агрегирует и отобразит исходные данные. После импорта данных в SageMaker Data Wrangler вы можете увидеть автоматически созданные сводки столбцов и гистограммы. Затем вы можете глубже понять свои данные и выявить потенциальные ошибки с помощью отчета SageMaker Data Wrangler Data Quality and Insights, который предоставляет сводную статистику и предупреждения о качестве данных. Вы также можете запустить анализ смещения, поддерживаемый SageMaker Clarify, непосредственно из SageMaker Data Wrangler для обнаружения потенциального смещения во время подготовки данных. После этого вы можете использовать готовые преобразования SageMaker Data Wrangler для подготовки данных. Когда подготовка данных будет завершена, вы можете создать полностью автоматизированные рабочие процессы машинного обучения с помощью конвейеров Amazon SageMaker или импортировать эти сведения в Хранилище функций Amazon SageMaker.

SageMaker Data Wrangler поддерживает табличные данные, данные временных рядов и графические данные, предоставляя более 300 предварительно настроенный преобразований данных для подготовки этих различных форм данных. Для клиентов, которым требуется подготовить текстовые данные в Data Wrangler для сценариев использования NLP, Data Wrangler поддерживает библиотеку NLTK, поэтому клиенты могут готовить текстовые данные, создавая в Data Wrangler настраиваемые сопоставления.

SageMaker Data Wrangler предлагает более 300 готовых преобразований данных на основе PySpark, которые позволяют преобразовывать информацию и масштабировать рабочий процесс подготовки данных без необходимости написания кода. Кроме того, вы можете преобразовать данные для моделей машинного обучения с помощью интерфейса на естественном языке на основе базовой модели (FM) или создать собственный фрагмент кода из библиотеки фрагментов SageMaker Data Wrangler.

SageMaker Data Wrangler поможет вам разобраться в данных и выявить потенциальные ошибки и предельные значения с помощью набора надежных предварительно настроенных шаблонов визуализации. Гистограммы, графики рассеивания и оптимизированные для машинного обучения визуализации, например для обнаружения утечек, доступны без необходимости написания кода. Также вы можете создавать и редактировать собственные визуализации.

Вы платите за все ресурсы для вычислений, хранения и обработки данных, применяемые для машинного обучения при работе с SageMaker Data Wrangler. Все подробности ценообразования на SageMaker Data Wrangler можно найти здесь. В рамках Уровня бесплатного пользования AWS работу с SageMaker Data Wrangler можно также начать бесплатно.

SageMaker Data Wrangler обеспечивает единую систему взаимодействия, позволяя подготовить данные и легко обучить модель машинного обучения в SageMaker Canvas. SageMaker Canvas автоматически создает, обучает и настраивает самые лучшие модели машинного обучения на основе ваших данных. Вы также можете использовать функции, подготовленные в SageMaker Data Wrangler, в существующих моделях. Вы можете настроить задания обработки SageMaker Data Wrangler на выполнение в рамках учебного конвейера SageMaker, настроив задание в пользовательском интерфейсе (UI) или экспортировав блокнот с кодом оркестровки.

Вы можете настраивать и запускать задания обработки SageMaker непосредственно из пользовательского интерфейса SageMaker Data Wrangler, включая планирование задания обработки данных и параметризацию источников данных, чтобы легко преобразовывать новые партии данных в масштабе.

После подготовки данных SageMaker Data Wrangler предоставляет различные варианты продвижения потока SageMaker Data Wrangler в производство и легко интегрируется с MLOps и возможностями CI/CD. Вы можете настраивать и запускать задания обработки SageMaker непосредственно из пользовательского интерфейса SageMaker Data Wrangler, включая планирование задания обработки данных и параметризацию источников данных, чтобы легко преобразовывать новые партии данных в масштабе. Кроме того, SageMaker Data Wrangler легко интегрируется с обработкой SageMaker и контейнером SageMaker Spark, что позволяет легко использовать SDK SageMaker для интеграции SageMaker Data Wrangler в производственный рабочий процесс.

В несколько шагов SageMaker Data Wrangler разделяет и обучает модель XGBoost с гиперпараметрами по умолчанию. В зависимости от типа проблемы SageMaker Data Wrangler предоставляет сводку модели, сводку функций и матрицу несоответственности, чтобы быстро дать вам представление и вы могли итеративно доработать свои потоки подготовки данных.

SageMaker Data Wrangler поддерживает различные методы выборки – такие как выборка top-K, случайная и стратифицированная выборка при импорте данных – так что вы можете быстро преобразовать свои данные с помощью пользовательского интерфейса SageMaker Data Wrangler. Если вы используете большие или широкие наборы данных, вы можете увеличить размер инстанса SageMaker Data Wrangler для повышения производительности. После создания потока можно обработать весь набор данных с помощью заданий обработки SageMaker Data Wrangler.

Да, вы можете настроить Хранилище функций SageMaker как место назначения для ваших функций, подготовленных в SageMaker Data Wrangler. Это можно сделать непосредственно в пользовательском интерфейсе или экспортировать блокнот, созданный специально для обработки данных с Хранилищем функций SageMaker в качестве места назначения.

Хранилище функций Amazon SageMaker – это полностью управляемая специализированная платформа для хранения, совместного использования признаков для моделей машинного обучения и управления ими. Функции можно обнаруживать и совместно применять для последующего использования моделями и командами при помощи безопасного доступа и контроля, в том числе в аккаунтах AWS. Хранилище функций Amazon SageMaker поддерживает как интерактивные, так и офлайн-функции для вывода выводов в реальном времени, а также пакетного вывода и обучения. Оно также управляет пакетными и потоковыми конвейерами проектирования объектов, чтобы уменьшить дублирование при создании объектов и повысить точность модели.

Оффлайн-функции обычно представляют собой большие объемы исторических данных, которые используются для обучения и пакетного вывода. Оффлайн-функции находятся в хранилище объектов с высокой доступностью и надежностью.

Сетевые возможности используются в приложениях для прогнозирования в режиме реального времени. Онлайн-функции обслуживаются из высокопроизводительного хранилища, поддерживающего однозначную задержку в миллисекундах от клиентских приложений для быстрого прогнозирования.

Хранилище функций Amazon SageMaker автоматически поддерживает согласованность сетевых и офлайн-функций без дополнительного управления или кода, обеспечивая единообразие в средах обучения и логических выводов.

Хранилище функций SageMaker сохраняет временные отметки для всех функций и предоставляет встроенные методы, позволяющие извлекать функции в любой момент времени в соответствии с потребностями бизнеса или нормативными требованиями. Вместо написания сложных SQL-запросов или большого количества кода вы можете использовать встроенные методы путешествий во времени и точных объединений на определенный момент времени, чтобы создавать наборы данных для обучения и пакетного вывода за интересующий период.

В рамках Уровня бесплатного пользования AWS работу с Хранилищем функций SageMaker можно начать бесплатно. При работе с Хранилищем функций SageMaker вы оплачиваете операции записи в хранилище признаков, а также операции чтения и записи в сетевое хранилище признаков. Сведения о ценах см. на странице цен Amazon SageMaker.

Amazon SageMaker предоставляет два предложения для маркировки данных: Amazon SageMaker Ground Truth Plus и Amazon SageMaker Ground Truth. Оба варианта позволяют определить необработанные данные, например образы, текстовые файлы и видео, а также добавить информативные метки для создания высококачественных обучающих наборов данных для моделей машинного обучения. Дополнительные сведения см. в разделе Маркировка данных Amazon SageMaker.

Геопространственные данные представляют собой особенности или объекты на земной поверхности. Первый тип геопространственных данных – векторные данные, которые используют двумерную геометрию, такую как точки, линии или многоугольники для представления таких объектов, как дороги и границы земельных участков. Второй тип геопространственных данных – это растровые данные, такие как снимки, собранные спутниками, воздушными платформами или данными дистанционного зондирования. Этот тип данных использует матрицу пикселей для определения местоположения объектов. Растровые форматы можно использовать для хранения данных, которые меняются. Третий тип геопространственных данных – это данные о местоположении с географическими метками. Они включают в себя достопримечательности – например, Эйфелевую башню – в постах социальных сетей с метками местоположения, координаты широты и долготы или различные стили и форматы адресов улиц.

Геопространственные возможности SageMaker упрощают специалистам по работе с данными и инженерам по машинному обучению создание, обучение и развертывание моделей машинного обучения для составления прогнозов с использованием геопространственных данных. Вы можете предоставить свои собственные сведения, например спутниковые данные Planet Labs из Amazon S3, или получить информацию из сервиса открытых данных в AWS, Службы определения местоположения Amazon и других источников геопространственных данных SageMaker.

Вы можете использовать возможности геопространственного машинного обучения в SageMaker, чтобы делать прогнозы на геопространственных данных быстрее, чем решения «сделай сам». Геопространственные возможности SageMaker облегчают доступ к геопространственным данным из существующих озер данных пользователей, наборов данных с открытым исходным кодом и других источников геопространственных данных SageMaker. Геопространственные возможности SageMaker минимизируют необходимость создания пользовательской инфраструктуры и функций предварительной обработки данных, предлагая специально разработанные алгоритмы для эффективной подготовки данных, обучения моделей и выводов. Вы также можете создавать пользовательские визуализации и данные и обмениваться ими со своей организацией из Студии SageMaker. Геопространственные возможности SageMaker включают предварительно обученные модели для общего использования в сельском хозяйстве, недвижимости, страховании и финансовых услугах.

В SageMaker можно использовать полностью управляемые Блокноты Jupyter для полноценной разработки машинного обучения. Масштабируйте вычислительные инстансы в облаке в большую или меньшую сторону, выбрав инстансы, оптимизированные для вычислений и ускоренные графическим процессором.

Блокноты Студии SageMaker – это готовые блокноты Jupyter, которые можно быстро развернуть. Лежащие в основе сервиса вычислительные ресурсы полностью эластичны, что позволяет просто увеличивать или уменьшать их объем, причем любые изменения происходят автоматически в фоновом режиме и не прерывают работу. SageMaker также позволяет делиться блокнотами одним щелчком мыши. Вы можете легко делиться блокнотами с другими – они получат точно такой же блокнот, сохраненный в том же месте.

В блокнотах Студии SageMaker вы можете выполнить вход с помощью корпоративных данных для доступа, используя Центр идентификации IAM. Совместное использование блокнотов в пределах одной команды и между несколькими командами очень легко организовать благодаря автоматическому отслеживанию всех зависимостей для выполнения блокнота по всем рабочим образам, которые инкапсулируются в блокноты при предоставлении совместного доступа.

Блокноты в интегрированной среде разработки (IDE) Студии SageMaker обладают несколькими важными функциями, которые отличают их от блокнотов на основе инстансов. Во-первых, вы можете быстро запустить блокноты без необходимости вручную выделять инстансы и ждать, пока они заработают. Для запуска пользовательского интерфейса для чтения и выполнения кода в блокноте требуется меньше времени, чем при работе с блокнотами на базе инстансов. Кроме того, в пользовательском интерфейсе можно в любой момент свободно выбирать типы инстансов из большой коллекции. Вам не нужно открывать Консоль управления AWS для запуска новых инстансов и переноса блокнотов. У каждого пользователя есть изолированный домашний каталог, независимый от определенного инстанса. Этот каталог автоматически подключается ко всем серверам и ядрам блокнотов по мере их запуска, поэтому у пользователей сохраняется доступ к блокнотам и другим файлам даже при переключении между инстансами для просмотра и запуска блокнотов. Блокноты Студии SageMaker интегрированы в Центр идентификации AWS IAM (преемник AWS SSO), поэтому для доступа к ним можно использовать корпоративные данные. Они также интегрированы со специализированными инструментами машинного обучения в SageMaker и других сервисах AWS для полноценной разработки машинного обучения: от подготовки данных в масштабе петабайтов с помощью Spark в Amazon EMR, моделей обучения и отладки до развертывания и мониторинга моделей, а также управления конвейерами.

Блокноты SageMaker в интегрированной среде обработки предоставляют доступ ко всем функциям SageMaker, включая распределенное обучение, пакетное преобразование и размещение. Для получения наборов данных можно также обращаться из блокнотов SageMaker к таким сервисам, как Amazon S3, Amazon Redshift, AWS Glue, Amazon EMR и AWS Lake Formation.

При использовании блокнотов SageMaker в интегрированной среде обработки Студии плата взимается как за вычислительные ресурсы, так и за хранение данных. Сведения о тарифах в зависимости от типа вычислительного инстанса см. на странице цен на Amazon SageMaker. Ваши блокноты и связанные с ними артефакты, такие как файлы данных и скрипты, сохраняются в Эластичной файловой системе Amazon (Amazon EFS) Сведения о тарифах на хранение данных см. на странице цен на Amazon EFS. В рамках Уровня бесплатного пользования AWS работу с блокнотами Студии SageMaker можно начать бесплатно.

Нет. Вы можете создать и запустить несколько блокнотов на одном вычислительном инстансе. Вы платите только за используемые вычислительные ресурсы, а не за отдельные элементы. Более подробные сведения см. в нашем руководстве по учету.

Помимо блокнотов, вы также можете запускать терминалы и интерактивные оболочки студии SageMaker – и все это на одном вычислительном инстансе. Каждое приложение работает внутри контейнера или образа. Студия SageMaker предоставляет несколько встроенных образов, специально созданных и настроенных для задач аналитики данных и машинного обучения.

Вы можете отслеживать и отключать ресурсы, используемые вашими блокнотами Студии SageMaker, через визуальный интерфейс Студии SageMaker Studio и Консоль управления AWS. Дополнительную информацию см. в документации.

Да, с вас по-прежнему будет взиматься плата за использование вычислительных ресурсов. Эта ситуация схожа с запуском инстансов Amazon EC2 в консоли управления AWS с последующим закрытием браузера. Инстансы Amazon EC2 все еще будут работать, и с вас по-прежнему будет взиматься плата, пока вы явным образом не отключите инстанс.

Нет, плата за создание или настройку домена Студии SageMaker, а также добавление, обновление и удаление профилей пользователей не взимается.

Будучи администратором, вы можете просмотреть список детализированных платежей за SageMaker, включая Студию SageMaker, в консоли выставления счетов AWS. В консоли управления AWS для SageMaker выберите «Сервисы» в верхнем меню, введите «Оплата» в поле поиска и выберите «Оплата» в раскрывающемся списке, затем выберите «Счета» на левой панели. В разделе «Сведения» вы можете щелкнуть SageMaker, чтобы развернуть список регионов и перейти к детализированным расходам.

Лаборатория Студии SageMaker – это бесплатная среда для разработки машинного обучения (ML), в которой абсолютно бесплатно предоставляются вычисления, хранилище (объемом до 15 ГБ) и безопасность для любого пользователя в целях обучения и экспериментирования с ML. Для начала работы требуется лишь действительный адрес электронной почты без необходимости настраивать инфраструктуру или управлять идентификацией, получать доступ либо даже регистрировать аккаунт AWS. SageMaker Studio Lab ускоряет создание моделей посредством интеграции с GitHub и предоставляется с предварительно настроенными наиболее популярными инструментами, платформами и библиотеками машинного обучения, благодаря чему вы можете сразу же приступить к работе. SageMaker Studio Lab автоматически сохраняет работу, поэтому вам не нужно перезапускать сервис между сеансами. Это так же просто, как закрыть крышку ноутбука и возвратиться к работе позднее.

Лаборатория Студии SageMaker предназначена для учащихся, исследователей и специалистов по работе с данными, которым требуется бесплатная среда для разработки блокнотов без необходимости настраивать свои занятия машинного обучения и эксперименты. Лаборатория Студии SageMaker – это идеальное решение для пользователей, которые не нуждаются в производственной среде, однако хотят получить часть функциональных возможностей SageMaker для усовершенствования своих навыков машинного обучения. Сеансы SageMaker сохраняются автоматически, позволяя пользователям продолжить с того момента, на котором они остановились, в каждом пользовательском сеансе.

Лаборатория Студии Amazon SageMaker – это сервис, созданный на AWS и использующий множество тех же самых основных сервисов, что и Студия Amazon SageMaker, например Amazon S3 и Amazon EC2. В отличие от других сервисов, клиентам не потребуется аккаунт AWS. Вместо этого они создадут специальный аккаунт для Лаборатории Студии SageMaker с помощью адреса электронной почты. Благодаря этому пользователи получат доступ к ограниченной среде (с хранилищем объемом 15 ГБ и сеансами продолжительностью 12 часов) для запуска блокнотов ML.

SageMaker HyperPod специально разработан для ускорения обучения базовых моделей. Он обеспечивает более отказоустойчивую инфраструктуру, оптимизированную для масштабного распределенного обучения. Это позволяет быстрее обучаться на тысячах ускорителей. Сервис автоматически обнаруживает, диагностирует и устраняет неисправности, поэтому можно непрерывно обучать базовые модели в течение нескольких месяцев. В SageMaker HyperPod предварительно настроены распределенные библиотеки обучения SageMaker, которые помогают эффективно повысить производительность за счет разделения обучающих данных модели на небольшие блоки, чтобы их можно было одновременно обрабатывать на разных акселераторах.

Если необходима более продолжительная и масштабная учебная рабочая нагрузка, требующая большого количества вычислительных инстансов, таких как графические процессоры или ускорители AWS, можно использовать SageMaker HyperPod для повышения отказоустойчивости и сокращения времени обучения.

Да. SageMaker может автоматически распределять модели глубокого обучения и крупные обучающие наборы по инстансам AWS с графическим процессором за время, во много раз меньшее, чем требуется на создание и оптимизацию стратегий распределения вручную. SageMaker применяет два метода распределенного обучения: параллелизм данных и параллелизм моделей. Параллелизм данных применяется для ускорения обучения: данные разбиваются на равные сегменты с последующей одновременной обработкой на разных инстансах с графическим процессором. Параллелизм моделей удобен в тех случаях, когда модель слишком велика для хранения на одном графическом процессоре: такая модель разделяется на несколько меньших частей и обрабатывается на нескольких графических процессорах. Вам нужно лишь добавить пару строк кода в скрипты обучения на PyTorch и TensorFlow, чтобы SageMaker автоматически применил параллелизм данных или параллелизм моделей, что позволит быстрее создавать и развертывать модели. SageMaker определит оптимальный метод разделения модели, используя алгоритмы секционирования графов, чтобы добиться примерно равного времени обработки на каждом графическом процессоре с минимальным взаимодействием между инстансами. Также SageMaker оптимизирует задания по распределенному обучению с помощью алгоритмов максимально эффективного использования вычислительных и сетевых ресурсов AWS, чтобы добиться почти линейного роста эффективности при масштабировании и выполнять обучение быстрее, чем с помощью реализаций вручную с открытым исходным кодом.

Эксперименты SageMaker помогают организовывать и отслеживать итерации обучения моделей машинного обучения. Эксперименты SageMaker помогают управлять итерациями, автоматически фиксируя входные параметры, конфигурации и результаты и сохраняя их как эксперименты. Можно создать эксперимент Amazon SageMaker для отслеживания рабочих процессов машинного обучения с помощью нескольких строк кода из предпочитаемой среды разработки. Вы также можете интегрировать эксперименты SageMaker в свой учебный сценарий SageMaker с помощью SDK SageMaker Python.

Отладчик SageMaker автоматически в режиме реального времени выполняет в процессе обучения сбор таких метрик, как матрицы путаницы и градиенты обучения, что в итоге помогает повысить точность модели. Метрики от Отладчика SageMaker можно визуализировать в Студии SageMaker для удобства понимания. SageMaker Debugger может генерировать предупреждения и рекомендации по исправлению обнаруженных типовых проблем с обучением. Также Отладчик SageMaker автоматически отслеживает и оценивает в реальном времени такие ресурсы, как ЦП, графические процессоры, сеть и память, предоставляя рекомендации по перераспределению этих ресурсов. Это позволяет вам эффективнее использовать ресурсы в процессе обучения, помогает снизить расходы и уменьшить потребность в ресурсах.

Управляемое спотовое обучение с использованием SageMaker позволяет обучать модели машинного обучения с помощью спотовых инстансов Amazon EC2 и при этом снизить затраты на него до 90 %.

Отправляя запросы на выполнение своих заданий по обучению, вы активируете управляемое спотовое обучение и указываете, в течение какого периода хотите ждать спотовые ресурсы. Затем SageMaker использует спотовые инстансы Amazon EC2 для выполнения задания и управляет спотовыми ресурсами. Вы полностью видите состояние задания по обучению как в процессе его выполнения, так и во время ожидания ресурсов.

Управляемое спотовое обучение – идеальный вариант, когда у вас есть некоторая свобода в выполнении заданий по обучению, а также если вы хотите минимизировать затраты на такие задания. Благодаря управляемому спотовому обучению затраты на обучение моделей машинного обучения можно снизить до 90 %.

Для обучения в таком формате используются спотовые инстансы Amazon EC2, которые можно освободить, когда AWS понадобятся ресурсы. Таким образом, задания по управляемому спотовому обучению можно разбить на небольшие этапы и выполнять их по мере доступности ресурсов. В случае прерывания заданий по обучению не придется начинать с самого начала, поскольку SageMaker может возобновить их выполнение, используя последнюю контрольную точку модели. Благодаря SageMaker встроенные платформы и алгоритмы машинного зрения позволяют создавать периодические контрольные точки, которые можно также использовать для пользовательских моделей.

Рекомендуем периодически создавать контрольные точки при выполнении долгосрочных заданий по обучению. Это позволит предотвратить перезапуск заданий по управляемому спотовому обучению в случае освобождения ресурса. Если активировано использование контрольных точек, SageMaker возобновит выполнение задания по управляемому спотовому обучению с последней контрольной точки.

После завершения задания по управляемому спотовому обучению можно посмотреть, сколько вы экономите, в Консоли управления AWS, а также рассчитать снижение издержек в процентном соотношении между длительностью выполнения задания по обучению и длительностью, указанной в счете. Независимо от количества прерываний заданий по управляемому спотовому обучению, вы оплачиваете только длительность загрузки данных.

Для управляемого спотового обучения можно использовать все инстансы, которые поддерживает SageMaker.

Управляемое спотовое обучение поддерживается во всех регионах, в которых на данный момент доступен SageMaker.

С SageMaker для обучения моделей можно использовать пакеты данных любого размера.

SageMaker предоставляет следующие встроенные алгоритмы: вычисление линейной регрессии, логической регрессии, кластеризация методом k-средних, анализ основного компонента, факторизация машин, тематическое нейронное моделирование, латентное размещение Дирихле, построение деревьев методом градиентного роста, алгоритм sequence2sequence, прогнозирование временных рядов, word2vec и классификация изображений. Также SageMaker поддерживает оптимизированные контейнеры Apache MXNet, Tensorflow, Chainer, PyTorch, Gluon, Keras, Horovod, Scikit-learn и Deep Graph Library. Кроме того, SageMaker поддерживает собственные алгоритмы обучения, предоставленные в образе Docker в соответствии с требованиями спецификации.

Большинство алгоритмов машинного обучения раскрывают множество параметров, которые контролируют работу базового алгоритма. Эти параметры носят название гиперпараметров, и их значения влияют на качество итоговых обученных моделей. Автоматическая настройка модели – это процесс поиска такого набора гиперпараметров алгоритма, который позволит получить оптимальную модель.

Автоматическую настройку модели можно запускать в SageMaker поверх любого алгоритма до тех пор, пока это возможно с научной точки зрения. В число возможных вариантов входят встроенные алгоритмы SageMaker, глубокие нейронные сети, а также любые произвольные алгоритмы, которые были импортированы в SageMaker в виде образов Docker.

В настоящий момент нет. Наибольшего эффекта от автоматической настройки модели можно добиться только в рамках SageMaker.

В данный момент в качестве алгоритма для настройки гиперпараметров используется специальным образом настроенный алгоритм байесовской оптимизации. Его задача – оптимизировать в процессе настройки заданные пользователем объективные метрики. А точнее, он проверяет объективные метрики завершенных заданий по обучению и использует полученные результаты для изменения комбинации гиперпараметров для следующего задания по обучению.

Нет. Влияние различных гиперпараметров на поведение модели зависит от множества факторов. Из-за этого нельзя достоверно заявлять, что один из них важнее других и настраивать следует именно его. Для встроенных в SageMaker алгоритмов мы указываем, является ли тот или иной гиперпараметр настраиваемым.

Продолжительность настройки гиперпараметров зависит от множества факторов, включая объем используемых данных, базовый алгоритм и значения гиперпараметров. Помимо этого пользователи имеют возможность выбрать количество одновременно выполняемых обучающих задач и их общее количество. Все эти факторы влияют на продолжительность настройки гиперпараметра.

В настоящий момент нет. На данный момент пользователю необходимо указывать единственную целевую метрику для оптимизации или изменить код алгоритма таким образом, чтобы он порождал новую метрику, которая представляет собой среднее взвешенное между двумя и более полезными метриками. Процесс настройки необходимо будет оптимизировать в сторону этой целевой метрики.

За саму настройку гиперпараметров плата не взимается. Плата начисляется за выполнение заданий по обучению, которые будут запущены процессом настройки гиперпараметров, согласно ценам на обучение моделей.

SageMaker автопилот автоматизирует все задачи, входящие в типичный рабочий поток машинного обучения, такие как предварительная обработка компонентов, выбор алгоритма и настройка гиперпараметров, уделяя особое внимание примерам использования классификации и регрессии. Автоматическая настройка модели, в свою очередь, предназначена для настройки моделей независимо от их базовой структуры – встроенные алгоритмы, платформы глубокого обучения или настраиваемые контейнеры. В качестве платы за гибкость применения вам придется вручную выбрать определенный алгоритм, гиперпараметры для настройки и диапазоны поиска.

Стимулированное обучение – это техника машинного обучения, позволяющая агенту учиться в интерактивной среде методом проб и ошибок, используя обратную связь по своим действиям и взаимодействиям.

Да. В SageMaker можно обучать не только контролируемые и неконтролируемые модели, но и модели стимулированного обучения.

Несмотря на то что и в контролируемом, и в стимулированном обучении используется сопоставление входных и выходных данных, в отличие от контролируемого обучения, где агенту в качестве обратной связи предоставляется набор шагов для выполнения задачи, в стимулированном обучении используется обратная связь с задержкой, когда поощрительные сигналы оптимизируются для достижения долгосрочной цели посредством выполнения последовательности действий.

В то время как целью техник, используемых в контролируемом обучении, является поиск правильного ответа на основе существующих в учебных данных шаблонов, техники неконтролируемого обучения преследуют цель найти сходства и различия между точками данных. Техники стимулированного обучения (RL), в отличие от этого, призваны научить, как достичь нужного результата даже, когда не совсем понятно, что следует для этого делать. Следовательно, стимулированное обучение больше подходит для обеспечения работы интеллектуальных приложений, когда агент может принимать автономные решения: робототехника, автоматизированные транспортные средства, системы отопления, вентиляции и кондиционирования воздуха, промышленные системы контроля и управления и многое другое.

Система стимулированного обучения Amazon SageMaker поддерживает несколько разных сред для обучения соответствующих моделей. Можно использовать такие сервисы AWS, как AWS RoboMaker, среды с открытым исходным кодом или пользовательские среды, разработанные с помощью интерфейсов Open AI Gym, а также коммерческие среды моделирования, такие как MATLAB и SimuLink.

Нет, система стимулированного обучения SageMaker включает наборы инструментов для стимулированного обучения, такие как Coach и Ray RLLib, предлагающие реализации алгоритмов для агентов стимулированного обучения (DQN, PPO, A3C и многие другие).

Да, вы можете использовать собственные библиотеки и реализации алгоритмов стимулированного обучения, помещенные в контейнеры Docker, в системе стимулированного обучения SageMaker.

Да. Можно даже выбрать гетерогенный кластер, где обучение проходит в инстансе графического процессора, а моделирование – в нескольких инстансах ЦП.

После создания и обучения моделей SageMaker обеспечивает три варианта развертывания, чтобы начать работу с прогнозированием. Вывод в реальном времени подходит для рабочих нагрузок с необходимостью в миллисекундной задержке, размерами полезной нагрузки до 6 МБ и временем обработки до 60 секунд. Пакетное преобразование идеально подходит для автономного прогнозирования по доступным заранее большим пакетам данных. Асинхронный логический вывод предназначен для рабочих нагрузок, не требующих задержки менее секунды, с размером полезной нагрузки до 1 ГБ и временем обработки до 15 минут.

Асинхронные логические выводы SageMaker ставят входящие запросы в очередь и обрабатывают их асинхронно. Этот вариант идеально подходит для запросов с большими размерами полезной нагрузки и/или длительным временем обработки, которые необходимо обрабатывать по мере поступления. При необходимости можно настроить параметры автоматического масштабирования, чтобы снижать количество инстансов до нуля, если не идет активный процесс обработки запросов, и сократить расходы.

Вы можете снизить количество инстансов адреса асинхронных логических выводов SageMaker до нуля, когда не обрабатываете запросы активно, и сократить расходы. Необходимо определить политику масштабирования, которая меняется согласно пользовательской метрике ApproximateBacklogPerInstance, и установить значение MinCapacity равным нулю. Пошаговые инструкции см. в разделе Автомасштабирование асинхронного адреса в руководстве разработчика. 

Бессерверный вывод Amazon SageMaker – это специализированный вариант бессерверного предоставления моделей, который упрощает развертывание и масштабирование моделей ML. Адреса Бессерверного вывода SageMaker автоматически запускают вычислительные ресурсы и масштабируют их в нужном направлении в зависимости от трафика, исключая необходимость в выборе типа инстанса, запуске распределенных ресурсов или управлении масштабированием. Дополнительно вы можете указать требования к памяти для вашего адреса Serverless Inference. Вы платите только за продолжительность выполнения кода логического вывода и объем обработанных данных, а не за периоды простоя.

Бессерверный вывод SageMaker упрощает работу разработчиков, исключая необходимость в распределении ресурсов заранее и управлении политиками масштабирования. Бессерверный вывод SageMaker может осуществлять мгновенное масштабирование для разного числа логических выводов (от десятков до тысяч) в течение нескольких секунд исходя из шаблонов использования, благодаря чему это решение идеально подходит для приложений машинного обучения с непостоянным или непредсказуемым трафиком. Например, в сервисе Chatbot, используемом компанией, которая выполняет расчеты заработной платы, наблюдается увеличение числа запросов в конце месяца, тогда как трафик в оставшуюся часть месяца непостоянен. Распределение инстансов на весь месяц в таких сценариях не является настолько экономичным, как если прекратить оплачивать периоды простоя. SageMaker Serverless Inference помогает урегулировать эти типы стандартных примеров использования, предоставляя готовое решение для быстрого автоматического масштабирования без необходимости прогнозировать трафик заранее или управлять политиками масштабирования. Кроме того, вы платите только за время вычислений, которое требуется для выполнения кода логического вывода (с оплатой за миллисекунды), и за обработку данных, благодаря чему этот вариант становится более экономичным для рабочих нагрузок с непостоянным трафиком.

Provisioned Concurrency позволяет развертывать модели на бессерверных адресах с предсказуемой производительностью и высокой масштабируемостью, обеспечивая готовность адресов к заданному количеству одновременных запросов.

При использовании бессерверных адресов по запросу, если адрес какое-то время не получает трафик, а затем внезапно получает новые запросы, может потребоваться некоторое время, чтобы адрес выделил вычислительные ресурсы для обработки запросов. Это называется холодным стартом. Холодный старт также может произойти, если количество одновременных запросов превышает текущее использование одновременных запросов. Время холодного старта зависит от размера модели, времени загрузки модели и времени запуска контейнера.

Чтобы уменьшить вариативность профиля задержки, вы можете дополнительно включить функцию Provisioned Concurrency для бессерверных адресов. Благодаря Provisioned Concurrency ваши бессерверные адреса всегда готовы и могут мгновенно обслуживать большие объемы трафика без холодного старта.

Как и для бессерверного получения логических выводов по требованию, при использовании функции Provisioned Concurrency платить нужно только за объем вычислительных ресурсов, использованных для обработки запросов на получение логических выводов (плата начисляется по миллисекундам), и объем обработанных данных. Вы также платите за использование Provisioned Concurrency в зависимости от настроенной памяти, продолжительности выделенной памяти и степени задействования функции Provisioned Concurrency. Подробнее см. на странице цен на Amazon SageMaker.

SageMaker помогает проводить теневые тесты для оценки новой модели машинного обучения перед выпуском в производство путем тестирования ее производительности по сравнению с текущей развернутой моделью. SageMaker развертывает новую модель в теневом режиме рядом с текущей производственной моделью и зеркалирует указанную пользователем часть производственного трафика на новую модель. Опционально выполняется регистрация выводов модели для автономного сравнения. Он также предоставляет живую приборную панель со сравнением ключевых показателей производительности, таких как задержка и частота ошибок, между производственной и теневой моделями, чтобы помочь вам решить, стоит ли продвигать новую модель в производство.

SageMaker упрощает процесс настройки и мониторинга теневых вариантов, чтобы вы могли оценить производительность новой модели машинного обучения на живом производственном трафике. SageMaker избавляет вас от необходимости организовывать инфраструктуру для теневого тестирования. Это позволяет контролировать такие параметры тестирования, как процент трафика, зеркалируемого на теневой вариант, и продолжительность тестирования. В результате вы можете начать с малого и увеличить запросы на вывод для новой модели после того, как получите уверенность в производительности модели. SageMaker создает панель управления, отображающую различия в производительности по ключевым показателям, поэтому вы можете легко сравнить производительность модели, чтобы оценить, насколько новая модель отличается от производственной.

Рекомендательная система Amazon SageMaker для логического вывода сокращает время, требующееся для запуска моделей машинного обучения в работу, посредством автоматизации тестирования и настройки производительности моделей в ML-инстансах SageMaker. Теперь вы можете использовать Рекомендательную систему SageMaker для логического вывода для развертывания своей модели на адресе, который обеспечивает наилучшую производительность и сводит расходы к минимуму. Приступить к работе с SageMaker Inference Recommender можно за считанные минуты, выбрав тип инстанса и получив рекомендации по оптимальным конфигурациям адреса в течение нескольких часов, исключая недели, требующиеся на тестирование и настройку вручную. При использовании SageMaker Inference Recommender вы платите только за ML-инстансы SageMaker, которые используются во время тестирования нагрузок. Никакие дополнительные платы не начисляются.

Использовать SageMaker Inference Recommender следует в тех случаях, когда вам необходимы рекомендации по правильной конфигурации адреса для повышения производительности и сокращения расходов. Ранее специалистам по работе с данными, которые хотели развернуть свои модели, для выбора правильной конфигурации адреса приходилось запускать тесты производительности вручную. Сперва им требовалось выбрать правильный тип ML-инстанса из более 70 доступных исходя из требований к ресурсам для своих моделей и образцов полезных данных, а затем – оптимизировать модель с учетом разного аппаратного обеспечения. После этого им нужно было провести обширные тесты нагрузок, чтобы убедиться в соблюдении требований касательно задержки и пропускной способности, а также обеспечить низкие расходы. SageMaker Inference Recommender упрощает этот процесс, чтобы вы смогли: 1) начать работу с рекомендацией по инстансу в течение нескольких минут; 2) провести тесты нагрузок для разных типов инстансов с целью получения рекомендаций по конфигурации адреса в течение нескольких часов; 3) автоматически настроить параметры сервера для контейнера и модели, а также выполнить оптимизации моделей для заданного типа инстанса.

Специалисты по работе с данными могут получать доступ к SageMaker Inference Recommender из SageMaker Studio, AWS SDK for Python (Boto3) или AWS CLI. Они могут получать рекомендации по развертыванию в пределах SageMaker Studio в реестре моделей SageMaker для зарегистрированных их версий. Специалисты по работе с данными могут осуществлять поиск рекомендаций и фильтровать их с помощью студии SageMaker, AWS SDK или AWS CLI.

Нет. В настоящий момент мы обеспечиваем поддержку только для одной модели на адрес.

В настоящий момент мы обеспечиваем поддержку только адресов в реальном времени.

Мы обеспечиваем поддержку всех регионов, которые поддерживаются в Amazon SageMaker, кроме регионов AWS Китай.

Да. Мы обеспечиваем поддержку всех типов контейнеров. Для Amazon EC2 Inf1, в зависимости от чипа AWS Inferentia, требуется получение артефакта скомпилированной модели с использованием компилятора Neuron или Amazon SageMaker Neo. После получения скомпилированной модели для целевого объекта Inferentia и связанного с ней URI образа контейнера можно использовать Рекомендательную систему SageMaker для логического вывода с целью тестирования производительности для различных типов инстансов Inferentia.

Монитор модели SageMaker позволяет разработчикам обнаруживать и устранять концептуальное отклонение. Монитор модели SageMaker автоматически обнаруживает концептуальные отклонения в развернутых моделях и выдает подробные оповещения, которые помогают определить источник проблемы. Все модели, прошедшие обучение в SageMaker, автоматически генерируют основные метрики, которые можно собирать и просматривать в SageMaker Studio. Внутри студии SageMaker можно настроить собираемые данные, способы их просмотра и ситуации, которые будут генерировать отправку оповещений.

Нет. SageMaker управляет вычислительной инфраструктурой от имени клиента, что позволяет выполнять проверку работоспособности, применять обновления безопасности и выполнять другие рутинные работы по обслуживанию. Кроме того, сервис дает возможность развертывать артефакты моделей обучения с собственным кодом логического вывода в своей среде хостинга.

Хостинг SageMaker автоматически масштабирует производительность на основании потребностей приложения, используя Application Auto Scaling. Сервис также позволяет вручную изменить количество и тип инстансов при редактировании конфигурации адреса, не останавливая работу системы.

SageMaker отправляет метрики производительности в Amazon CloudWatch. Это позволяет отслеживать метрики, устанавливать предупреждения и автоматически реагировать на изменения в рабочем трафике. Кроме того, SageMaker записывает журналы в Журналы Amazon CloudWatch, что дает возможность отслеживать и устранять проблемы рабочего развертывания.

SageMaker может разместить любую модель, которая соответствует задокументированной спецификации для образов Docker, используемых для логического вывода. Сюда входят модели, созданные из артефактов моделей SageMaker и кода логического вывода.

SageMaker рассчитан на масштабирование для обеспечения большого количества транзакций в секунду. Точное количество определяется конкретной моделью, а также количеством и типом инстансов, на которых выполнено развертывание.

Amazon SageMaker — полностью управляемый сервис для настройки инстансов, совместимостей с версиями ПО, а также исправлений версий и управления ими. Он также предоставляет встроенные метрики и журналы для адресов, которые можно использовать для мониторинга и получения оповещений. Благодаря инструментам и управляемым рабочим процессам SageMaker упрощается весь процесс упаковки и развертывания моделей машинного обучения. Это позволяет с легкостью оптимизировать адреса для достижения желаемой производительности и сокращения затрат. Вы можете без лишних усилий развернуть модели машинного обучения, включая базовые модели, в SageMaker Studio или используя новый PySDK.

Пакетное преобразование позволяет выполнять прогнозирование на основе крупных или малых пакетов данных. Вам не придется разбивать набор данных на несколько фрагментов или управлять адресами реального времени. С помощью простого API можно запрашивать прогнозы для большого количества записей данных, а затем быстро и просто преобразовывать данные.

SageMaker поддерживает следующие варианты адресов: Адреса для одной модели — одна модель в контейнере, размещенная на выделенных инстансах, или бессерверная модель, ориентированная на низкую задержку и высокую пропускную способность. Адреса для нескольких моделей — размещение нескольких моделей, использующих общую инфраструктуру для экономии затрат и максимально эффективного использования ресурсов. Вы можете контролировать объем вычислительных ресурсов и памяти, доступных каждой модели, которые необходимы ей для эффективной работы. Последовательные конвейеры логического вывода — несколько контейнеров, совместно использующих выделенные инстансы и выполняющихся последовательно. Конвейер логических выводов можно использовать для объединения задач предварительной обработки, прогнозирования и последующего анализа данных.

Политики масштабирования можно использовать для автоматического масштабирования базовых вычислительных ресурсов в соответствии с колебаниями запросов на выводы. Вы можете управлять политиками масштабирования для каждой модели машинного обучения отдельно, что помогает упростить обработку изменений в использовании модели, а также оптимизировать затраты на инфраструктуру.

Менеджер периферии SageMaker упрощает оптимизацию, защиту, мониторинг и обслуживание моделей машинного обучения на большом числе периферийных устройств (интеллектуальные камеры, роботы, персональные компьютеры и мобильные устройства). Менеджер периферии SageMaker помогает разработчикам машинного обучения работать с моделями машинного обучения на множестве периферийных устройств в любом масштабе.

Для начала работы с SageMaker Edge Manager вам нужно скомпилировать и упаковать обученные модели машинного обучения для использования в облаке, зарегистрировать устройства и подготовить их с помощью SageMaker Edge Manager SDK. Для подготовки модели к развертыванию SageMaker Edge Manager компилирует модель для целевого периферийного оборудования с помощью SageMaker Neo. Когда завершается компиляция модели, SageMaker Edge Manager подписывает ее ключом, созданным в AWS, а затем создает готовый к развертыванию пакет, содержащий модель, необходимую среду выполнения и учетные данные. На стороне устройства необходимо выполнить регистрацию в SageMaker Edge Manager, затем загрузить SageMaker Edge Manager SDK и выполнить инструкции по установке агента SageMaker Edge Manager на каждом из устройств. Обучающий блокнот содержит пример с пошаговым описанием для процесса подготовки моделей и подключения к периферийным устройствам с помощью SageMaker Edge Manager.

Менеджер периферии SageMaker поддерживает устройства на базе наиболее распространенных ЦП (ARM, x86) и графических процессоров (ARM, Nvidia) с операционными системами Linux и Windows. Со временем функциональные возможности Менеджера периферии SageMaker будут дополнены для поддержки дополнительных встраиваемых процессоров и мобильных платформ, которые уже поддерживаются в SageMaker Neo.

Нет, не нужно. Вы можете обучить свои модели любым другим способом или выбрать предварительно обученную моделью из открытого источника или от любого поставщика моделей.

Да, нужно. SageMaker Neo преобразует и скомпилирует модели в исполняемые фалы, которые вы сможете легко упаковать и развернуть на периферийных устройствах. После развертывания пакета модели агент Менеджера периферии SageMaker распакует его и запустит модель на устройстве.

Менеджер периферии SageMaker сохраняет пакет модели в указанной вами корзине Amazon S3. Вы можете использовать возможность обновления по беспроводной сети (OTA), предоставляемую сервисом AWS IoT Greengrass, или любой другой механизм развертывания, чтобы развернуть пакет модели из корзины S3 на устройства.

Neo dlr представляет собой среду выполнения с открытым исходным кодом, которая выполняет только модели, скомпилированные в сервисе SageMaker Neo. В отличие от dlr с открытым исходным кодом, пакет SDK Менеджера периферии SageMaker содержит агент устройства корпоративного уровня, который обеспечивает дополнительные возможности для безопасности, управления моделями и обслуживания моделей. SDK Менеджера периферии SageMaker подходит для развертывания продукта в большом масштабе.

Менеджер периферии SageMaker и AWS IoT Greengrass могут совместно работать в вашем решении для Интернета вещей. Упаковав модель машинного обучения с помощью Менеджера периферии SageMaker, вы сможете применить возможность обновления по беспроводной сети AWS IoT Greengrass для развертывания пакета модели на устройствах. AWS IoT Greengrass позволяет удаленно отслеживать устройства Интернета вещей, а Менеджер периферии SageMaker помогает контролировать и поддерживать модели машинного обучения на этих устройствах.

AWS предлагает самые широкие и глубокие возможности для запуска моделей на периферийных устройствах. У нас есть сервисы для поддержки широкого набора сценариев использования, включая машинное зрение, распознавание голоса и профилактическое обслуживание.

Если ваша компания собирается применять машинное зрение на камерах и других периферийных устройствах, вы можете использовать AWS Panorama. AWS Panorama предоставит готовые к развертыванию приложения машинного зрения для периферийных устройств. Чтобы начать работу с AWS Panorama, достаточно лишь войти в облачную консоль, указать нужную модель для Amazon S3 или SageMaker, а затем реализовать бизнес-логику в формате скрипта Python. AWS Panorama скомпилирует эту модель для целевого устройства и создаст пакет приложения, который вы сможете всего в несколько щелчков мыши развернуть на соответствующих устройствах. Кроме того, независимые поставщики ПО смогут создать собственные приложения на основе AWS Panorama SDK, а Device SDK позволит производителям устройств сертифицировать свои устройства для работы с AWS Panorama.

Клиенты, которым нужны собственные модели или более детальный контроль за признаками модели, могут воспользоваться Менеджером периферии SageMaker. Управляемый Менеджер периферии SageMaker позволяет подготавливать, выполнять, контролировать и обновлять модели машинного обучения на большом числе периферийных устройств (интеллектуальные камеры, динамики, роботы и т. п.) для использования таких возможностей, как обработка естественного языка, обнаружение мошенничества и профилактическое техническое обслуживание. SageMaker Edge Manager предназначен для разработчиков машинного обучения для периферийных устройств, которым нужен более полный контроль за моделями, например для создания собственных признаков или отслеживания отклонений. Любой разработчик машинного обучения для периферийных устройств может работать с SageMaker Edge Manager через консоль SageMaker и SageMaker API. Менеджер периферии SageMaker позволяет применить всю мощь SageMaker для создания, обучения моделей и их развертывания на периферийных устройствах через облако.

Менеджер периферии SageMaker доступен в шести регионах AWS: Восток США (Северная Вирджиния), Восток США (Огайо), Запад США (Орегон), Европа (Ирландия), Европа (Франкфурт) и Азиатско-Тихоокеанский регион (Токио). Подробнее см. в списке региональных сервисов AWS.

SageMaker Neo позволяет обучить модели машинного обучения однократно, а затем запускать их где угодно в облаке и на периферии. SageMaker Neo автоматически оптимизирует модели, созданные на базе популярных платформ глубокого обучения, которые можно использовать для развертывания на нескольких аппаратных платформах. Оптимизированные модели выполняются до 25 раз быстрее и потребляют менее десятой части ресурсов по сравнению со стандартными моделями машинного обучения.

Чтобы начать работу с SageMaker Neo, необходимо войти на консоль SageMaker, выбрать обученную модель, составить модели, следуя примеру, а затем развернуть полученную модель на целевой аппаратной платформе.

SageMaker Neo состоит из двух основных компонентов: компилятора и среды выполнения. Во-первых, компилятор SageMaker Neo считывает модели, экспортированные разными платформами. Затем он преобразует функции и операции платформы в промежуточное представление, которое не зависит от платформы. Затем компилятор выполняет серию оптимизаций, создает двоичный код для оптимизированных операций и записывает их в общую библиотеку объектов. Компилятор также сохраняет определение и параметры модели в отдельные файлы. Во время выполнения среда выполнения SageMaker Neo загружает артефакты, созданные компилятором: определение модели, параметры, а также общую библиотеку объектов для выполнения модели.

Нет. Для обученных в любом месте моделей можно применить SageMaker Neo, чтобы оптимизировать их для инстансов машинного обучения SageMaker или устройств с поддержкой AWS IoT Greengrass.

В настоящее время SageMaker Neo поддерживает наиболее популярные модели машинного обучения, которые лежат в основе приложений компьютерного зрения и наиболее популярные модели дерева принятия решений, которые сегодня используются в SageMaker. SageMaker Neo оптимизирует производительность моделей AlexNet, ResNet, VGG, Inception, MobileNet, SqueezeNet и DenseNet, обученных в MXNet и TensorFlow, а также обученных в XGBoost моделей классификации и моделей на основе алгоритма Random Cut Forest.

Списки поддерживаемых облачных инстансов, периферийных устройств и версий платформ можно найти в документации по SageMaker Neo.

Список поддерживаемых регионов приведен в списке региональных сервисов AWS.

Экономичные планы SageMaker предлагают гибкую модель ценообразования на основе использования для SageMaker, применяемую при условии, что клиент обязуется использовать постоянный объем вычислительных ресурсов (измеряемый в USD/час) на протяжении одного года или трех лет. Экономичные планы SageMaker – это самый гибкий вариант, помогающий экономить до 64 %. Эти тарифы автоматически применяются к соответствующим инстансам SageMaker ML, включая блокноты Студии SageMaker, блокноты SageMaker по требованию, Обработку SageMaker, SageMaker Data Wrangler, SageMaker Training, SageMaker Real-Time Inference и SageMaker Batch Transform, независимо от семейства инстансов, размера и региона. Например, для обработки рабочих нагрузок, связанных с получением логических выводов, вместо инстанса ml.c5.xlarge, работающего в регионе Восток США (Огайо), можно в любое время перейти к использованию инстанса ml.Inf1 в регионе Запад США (Орегон) и автоматически продолжать пользоваться тарифами Экономичных планов.

Если вы с определенной частотой (измеряемой в USD в час) используете инстансы SageMaker и несколько компонентов SageMaker или ожидаете, что ваша конфигурация (например, семейство инстансов, регион) будет со временем меняться, тарифы Экономичных планов SageMaker позволят вам получить максимальную экономию при одновременном обеспечении гибкости изменения конфигурации базовых технологий с учетом потребностей приложений и внедрения инноваций. Тарифы Экономичных планов применяется автоматически ко всем подходящим инстансам машинного обучения без какого-либо ручного вмешательства.

Экономичные планы SageMaker можно подключить в Обозревателе затрат AWS на Консоли управления или с помощью API либо командной строки. Пользуясь рекомендациями в AWS Cost Explorer, вы без труда выберете оптимальные обязательства по Savings Plans, чтобы добиться максимальной экономии средств. Рекомендуемые почасовые обязательства основаны на вашей истории использования ресурсов по требованию и личном выборе типа плана, срока действия и способа оплаты. После регистрации плана оплаты по схеме Savings Plans плата за использование вычислительных ресурсов автоматически станет начисляться в соответствии с льготными ценами этого плана, а превышение выбранного объема будет оплачиваться по тарифам схемы по требованию.

Разница между Экономичными планами для SageMaker и для Amazon EC2 заключается в перечне поддерживаемых ими сервисов. Экономичные планы SageMaker применяются только к использованию инстансов машинного обучения SageMaker.

Тарифы Savings Plans можно приобрести в любом аккаунте группы AWS Organization и консолидированной оплаты. По умолчанию экономия, предоставляемая тарифами Savings Plans, распространяется на все аккаунты в рамках группы AWS Organization и консолидированной оплаты. Однако вы также можете ограничить действие экономичных планов только аккаунтом, в котором они были приобретены.