Опыт разработчиков Amazon Bedrock

Amazon Bedrock делает сборку с использованием различных базовых моделей такой же простой, как вызов API. Amazon Bedrock предоставляет доступ к ведущим моделям, включая модели Jurassic от AI21 Labs, Claude от Anthropic, Command и Embed от Cohere, Llama 2 от Meta и Stable Diffusion от Stability AI, а также наши собственные модели Amazon Titan. В Amazon Bedrock вы можете выбрать базовую модель, которая лучше всего подходит для вашего сценария использования и требований приложения.

Вы можете легко экспериментировать с разными базовыми моделями, используя интерактивные среды для различных форм взаимодействия, включая текст, чат и изображения. Интерактивные среды позволяют опробовать различные модели для вашего сценария использования, чтобы понять, подходит ли модель для выполнения поставленной задачи.

Оценка моделей в Amazon Bedrock позволяет использовать автоматические и человеческие оценки, что помогает выбрать оптимальную базовую модель для конкретного варианта использования. Автоматическая оценка модели использует тщательно подобранные наборы данных и предоставляет заранее заданные метрики, включая точность, надежность и токсичность. Для получения субъективных метрик можно использовать Amazon Bedrock, чтобы за несколько кликов настроить рабочий процесс оценки человеком. За счет оценки человеком вы можете использовать собственные наборы данных и определять специальные метрики, такие как релевантность, стиль и соответствие голосу бренда. В рабочих процессах человеческой оценки можно задействовать ваших собственных сотрудников в качестве рецензентов или привлечь специалистов под управлением AWS: AWS нанимает квалифицированных специалистов по оценке и управляет комплексным рабочим процессом от вашего имени. Читайте блог, чтобы узнать подробности.

Без лишних усилий Amazon Bedrock позволяет перейти от стандартных моделей к специализированным моделям, адаптированным для вашего бизнеса и сценария использования. Чтобы адаптировать основную модель к конкретной задаче, вы можете использовать технику, называемую точной настройкой. Достаточно привести несколько помеченных примеров в Amazon S3, и Amazon Bedrock создаст копию базовой модели, обучит ее на основе ваших данных и создаст настроенную и доступную только вам модель, чтобы вы получили специализированные ответы. Точная настройка доступна для моделей Command, Llama 2, Titan Text Lite и Express, генератора изображений Titan и мультимодальных эмбеддингов Titan. Второй способ адаптации базовых моделей Titan Text Lite и Express в Amazon Bedrock — это непрерывное предварительное обучение. Этот метод предусматривает использование неразмеченных наборов данных для настройки основной модели для вашей предметной области или отрасли. После точной настройки и непрерывного предварительного обучения Amazon Bedrock создает для вас частную настроенную копию базовой модели, при этом ваши данные не используются для обучения исходных базовых моделей. Ваши данные, используемые для настройки моделей, безопасно передаются через виртуальное частное облако Amazon (VPC). Читайте блог, чтобы узнать подробности.

Используйте единый API для выполнения логических выводов независимо от выбранной модели. Наличие единого API позволяет использовать разные модели от разных поставщиков и получать последние версии моделей с минимальными изменениями кода.