Решение «Ограничения Amazon Bedrock» теперь поддерживает проверки автоматизированных рассуждений (ознакомительная версия)

Проведено: 3 дек. 2024 г.

Благодаря запуску проверок автоматизированных рассуждений в Ограничениях Amazon Bedrock компания AWS становится первым и единственным крупным поставщиком облачных услуг, интегрирующим автоматизированные рассуждения в свои предложения на базе генеративного ИИ. Проверки автоматизированных рассуждений помогают выявлять галлюцинации и предоставляют проверяемые доказательства точности ответа большой языковой модели (LLM). Инструменты автоматизированных рассуждений не пытаются угадать или предсказать точность. Вместо этого они используют рациональные математические методы для достоверной проверки соответствия разработанным экспертами политикам автоматизированных рассуждений и, как следствие, для повышения прозрачности. Организации все чаще используют большие языковые модели (LLM) для повышения качества взаимодействия с пользователями и снижения эксплуатационных расходов за счет обеспечения интерактивного доступа к релевантной контекстуализированной информации. Однако LLM склонны к галлюцинациям. Из-за способности LLM давать убедительные ответы такие галлюцинации часто трудно обнаружить. Вероятность возникновения галлюцинаций и невозможность объяснить, почему они возникли, замедляют внедрение генеративного искусственного интеллекта в тех сферах, где точность имеет решающее значение.

С появлением проверок автоматизированных рассуждений профильным экспертам намного проще составлять спецификации (так называемые политики автоматизированных рассуждений), в которые включаются их знания в таких сферах, как рабочие бизнес-процессы и кадровые политики. Пользователи Ограничений Amazon Bedrock могут проверять сгенерированный контент на соответствие политике автоматизированных рассуждений, выявлять неточности и неявные предположения, а также предоставлять подтверждаемые пояснения, почему утверждения точны. Например, вы можете настроить проверки автоматических рассуждений, чтобы валидировать ответы на вопросы, определенные в сложных кадровых политиках (которые могут включать ограничения по трудовому стажу, месту работы и производительности труда сотрудников), а также объяснять, почему ответ верен, подкрепляя объяснение доказательствами.

Чтобы запросить доступ к проверкам автоматизированных рассуждений в Ограничениях Amazon Bedrock в регионах AWS Восток США (Северная Вирджиния) и Запад США (Орегон), обратитесь в службу поддержки клиентов AWS. Чтобы узнать больше, посетите страницу продукта «Ограничения Amazon Bedrock» и прочитайте публикацию в новостном блоге.