Ограничения для Amazon Bedrock

Посмотрите демонстрационные материалы о том, как создавать и применять персонализированные ограничения с помощью базовых моделей (FM), чтобы внедрять ответственные политики в отношении искусственного интеллекта в приложения для генеративного искусственного интеллекта.

Сервис ограничений для Amazon Bedrock оценивает вводимую пользователем информацию и ответы базовой модели на основе политик для конкретных сценариев использования и обеспечивает дополнительный уровень безопасности независимо от используемой FM. Ограничения можно применять ко всем большим языковым моделям (LLM) на Amazon Bedrock, включая тщательно настроенные модели. Клиенты могут создать несколько ограничений, каждое из которых имеет различную комбинацию элементов управления, и использовать эти ограничения в разных приложениях и сценариях использования. 

Организации признают необходимость управления взаимодействиями в приложениях с генеративным ИИ для создания релевантной и безопасной среды работы пользователей. Они хотят еще больше адаптировать взаимодействие, чтобы оно оставалось в рамках актуальных для их бизнеса тем и соответствовало политике компании. Используя краткое описание на естественном языке, сервис ограничений для Amazon Bedrock позволяет определить набор тем, которых следует избегать в контексте приложения. Он обнаруживает и блокирует вводимую пользователем информацию и ответы базовой модели из запрещенных категорий. Например, помощник в банковской системе можно разработать таким образом, чтобы он избегал тем, связанных с инвестициями.

Сервис «Ограничения для Amazon Bedrock» предоставляет фильтры контента с настраиваемыми пороговыми значениями для фильтрации вредоносного контента по категориям «ненависть», «оскорбления», «секс», «насилие», «неправомерное поведение» (включая преступную деятельность) и «оперативные атаки» (быстрое внедрение и взлом). В большинстве базовых моделей уже предусмотрены встроенные средства защиты, предотвращающие появление нежелательных ответов. В дополнение к этим средствам защиты функция ограничений позволяет настраивать пороговые значения для различных категорий, чтобы отфильтровать нежелательные взаимодействия. Увеличение уровня фильтрации повышает агрессивность применения фильтра. Функция ограничений автоматически оценивает как запросы пользователей, так и ответы базовой модели, чтобы выявить и предотвратить появление контента, относящегося к запрещенным категориям. Например, сайт электронной коммерции может разработать своего онлайн-помощника таким образом, чтобы он не использовал неприемлемые выражения, такие как язык ненависти или оскорбления.

Сервис «Ограничения для Amazon Bedrock» способен обнаружить конфиденциальную информацию, такую как персональные данные (PII), в пользовательских сообщениях и FM-ответах. Можно выбрать из списка предопределенных PII или определить пользовательский тип конфиденциальной информации с помощью регулярных выражений (RegEx). В зависимости от варианта использования вы можете выборочно отклонять входные данные, содержащие чувствительную информацию, или редактировать их в ответах базовой модели. Например, вы можете редактировать личную информацию пользователей в процессе создания сводок по расшифровкам разговоров клиентов и операторов в колл-центре.

С помощью сервиса «Ограничения для Amazon Bedrock» можно создать набор специальных слов или фраз, которые вы хотите обнаруживать и блокировать при взаимодействии между пользователями и приложениями генеративного искусственного интеллекта. Кроме того, это позволит выявлять и блокировать ненормативную лексику, а также специальные слова, например оскорбления или названия конкурентов.