Новый API для рабочих процессов агентного ИИ в Ограничениях Amazon Bedrock
Ограничения Amazon Bedrock теперь поддерживают новый безресурсный API-интерфейс InvokeGuardrailChecks, позволяющий применять отдельные ограничения в любой точке приложений агентного ИИ без необходимости создавать для них ресурсы. Этот API обеспечивает детализированный контроль над тем, какие ограничения следует выполнять на каждом этапе цикла работы агентов в каждом запросе. Он выдает числовые оценки серьезности и достоверности, позволяя вам назначать собственные пороговые значения и необходимые действия, такие как блокировка, пропуск, повторная попытка или внесение в журнал.
Приложения агентного ИИ работают на базе итеративных циклов: планируют задачи, вызывают инструменты, обрабатывают выходные данные, а затем повторяют итерацию, часто выполняя десятки действий по одному запросу. Каждое действие связано с разным профилем рисков, из-за чего бывает трудно масштабировать ограничение так, чтобы оно стало универсальным. API-интерфейс InvokeGuardrailChecks решает эту проблему, работая в режиме «только обнаружение» без необходимости отслеживать какие-либо идентификаторы ограничений и управлять версиями. Вы указываете, какие ограничения следует непосредственно выполнять в каждом запросе, что упрощает добавление, удаление или корректировку проверок по мере развития рабочих процессов.
Этот API поддерживает фильтры содержимого (обнаружение вредоносного контента в таких категориях, как риторика ненависти, насилие, секс, оскорбления и неправомерные действия), обнаружение атак на основе текстовых запросов (независимые проверки на наличие взломов, внедрения текстовых запросов или осуществляемой с их помощью утечки), а также фильтры конфиденциальной информации (обнаружение поддерживаемых типов сущностей персональных данных). Обнаружение атак на основе текстовых запросов доступно в виде отдельного ограничения, которое можно вызывать для каждого из поддерживаемых векторов атаки по отдельности.
API-интерфейс InvokeGuardrailChecks сегодня доступен в следующих регионах AWS: Восток США (Северная Вирджиния, Огайо), Запад США (Орегон), Европа (Лондон, Стокгольм) и Азиатско-Тихоокеанский регион (Токио, Сидней).
Подробнее см. техническую документацию по Ограничениям Amazon Bedrock.