Проверки автоматизированных рассуждений теперь доступны в Ограничениях для Amazon Bedrock
AWS объявляет о всеобщей доступности проверок автоматизированных рассуждений – средства защиты в Ограничениях для Amazon Bedrock, которое использует методы формальной проверки для подтверждения точности выходных данных моделей генеративного искусственного интеллекта и их соответствия политикам. Проверки автоматизированных рассуждений обеспечивают определение правильных ответов от LLM с точностью до 99 %, что дает возможность надежно обнаруживать галлюцинации ИИ и помогает выявлять неоднозначность в ответах модели.
Проверки автоматизированных рассуждений принципиально отличаются от традиционных методов тестирования. В отличие от выборки результатов для контроля качества, проверки автоматизированных рассуждений обеспечивают математически строгие гарантии соответствия ответов ИИ определенным бизнес-правилам и знаниям предметной области. Это особенно важно для предприятий в регулируемых отраслях, которым требуется точная проверка выходных данных ИИ перед развертыванием.
Проверки автоматизированных рассуждений в Ограничениях для Amazon Bedrock теперь доступны всем в регионах США (Северная Вирджиния), США (Огайо), США (Орегон), Европа (Франкфурт), Европа (Ирландия) и Европа (Париж). Клиенты могут получить доступ к сервису через консоль Amazon Bedrock, а также через SDK Amazon Bedrock для Python.
Чтобы узнать больше о проверках автоматизированных рассуждений и о том, как интегрировать их в рабочие процессы генеративного искусственного интеллекта, ознакомьтесь с документацией Amazon Bedrock. Вы также можете обратиться к команде, отвечающей за поддержку вашего аккаунта AWS, или к архитектору решений AWS, чтобы обсудить ваш сценарий использования и требования. Поддержка CloudFormation ожидается в ближайшее время. Прочитайте новостной блог, просмотрите документацию или посетите веб-страницу Ограничений.