Ограничения для Amazon Bedrock теперь могут обнаруживать галлюцинации и защищать приложения с использованием любой базовой модели
Функция ограничений для Amazon Bedrock позволяет клиентам внедрять меры безопасности на основе потребностей своих приложений и политик ответственного использования искусственного интеллекта. Теперь к ограничениям добавлены контекстные проверки достоверности, и доступен новый API-интерфейс ApplyGuardrail, позволяющий создавать надежные приложения генеративного искусственного интеллекта с использованием любой базовой модели (FM).
Клиенты используют присущие базовым моделям возможности для получения обоснованных (достоверных) ответов на основе исходных данных компании. Однако базовые модели могут смешивать разные фрагменты информации, выдавая неверную или новую информацию, что сказывается на надежности приложений. Благодаря контекстным проверкам достоверности функция ограничений теперь может обнаруживать галлюцинации в ответах модели для генерации с дополненной выборкой (RAG) и приложений на основе диалога. Такая защита помогает обнаруживать и отфильтровывать фактически неверные ответы на основе справочного источника, которые нерелевантны по отношению к запросу пользователя. Клиенты могут настроить пороговые значения достоверности, чтобы отфильтровывать ответы с низкой степенью достоверности или релевантности.
Кроме того, чтобы обеспечить возможность защиты приложений с применением разных базовых моделей, реализована поддержка API-интерфейса ограничений ApplyGuardrail, который позволяет анализировать вводимые пользователем данные и ответы модели для любых специализированных и сторонних FM в дополнение к тем, что уже поддерживаются Amazon Bedrock. С помощью интерфейса ApplyGuardrail теперь можно централизованно осуществлять защиту и управление для всех приложений генеративного искусственного интеллекта.
Функция ограничений является уникальным решением от крупного поставщика облачных услуг, которое одновременно обеспечивает безопасность, конфиденциальность и достоверность. Контекстная проверка достоверности и API ApplyGuardrail поддерживаются во всех регионах AWS, где поддерживается функция ограничений для Amazon Bedrock.
Узнать больше об ограничениях для Amazon Bedrock можно на странице функции и в блоге новостей.