Общедоступные передовые отраслевые фильтры графического контента для ограничений Amazon Bedrock
Ограничения Amazon Bedrock объявляют о появлении общедоступных фильтров графического контента. Передовые отраслевые меры защиты для текстовых и графических материалов помогают клиентам блокировать до 88 % вредоносного мультимодального содержимого. Новая возможность избавляет клиентов от необходимости разрабатывать собственные инструменты защиты для графического контента и тратить время на ручную модерацию контента, которая может быть утомительной и приводить к ошибкам. Ограничения Bedrock предоставляют настраиваемые средства защиты, позволяющие обнаруживать и блокировать нежелательный контент или атаки на основе текстовых запросов, определять и запрещать определенные темы, скрывать информацию, позволяющую установить личность (PII), такую как персональные данные, или блокировать определенные слова. Они также поддерживают контекстные проверки обоснованности для выявления и блокировки галлюцинаций модели, а также для определения релевантности ее утверждений и ответов. А проверки автоматизированных рассуждений позволяют выявлять, исправлять и пояснять фактические утверждения в ответах модели. Ограничения могут применяться к любым базовым моделям, в том числе с хостингом в Amazon Bedrock или самостоятельным хостингом, а также к моделям сторонних разработчиков вне Bedrock, с помощью API-интерфейса ApplyGuardrail. Таким образом пользователи получают унифицированный интерфейс, который помогает стандартизировать функции управления конфиденциальностью и безопасностью.
Фильтры графического контента могут применяться к любым категориям политики фильтрации содержимого на основе ограничений Bedrock, таким как ненависть, оскорбления, секс, насилие, нарушение правил или атаки на основе текстовых запросов. Новая возможность позволяет клиентам гибко работать и с графическим, и с текстовым контентом, а также создавать безопасные приложения с генеративным искусственным интеллектом, соответствующие их политикам ответственного использования ИИ.
Эта новая возможность является общедоступной в следующих регионах AWS: Восток США (Северная Вирджиния), Запад США (Орегон), Европа (Франкфурт) и Азиатско-Тихоокеанский регион (Токио).
Подробности см. в блоге, технической документации и на странице продукта ограничений Bedrock.