Поддержка устранения галлюцинаций в ответах чата для Amazon Q Business
Сегодня Amazon Q Business внедряет функцию уменьшения количества галлюцинаций в ответах чата. Галлюцинации – это уверенные ответы от приложений генеративного искусственного интеллекта, которые не подтверждаются исходными данными. Новая функция позволяет клиентам в реальном времени устранять галлюцинации при беседах в чате.
Большие языковые модели (LLM), лежащие в основе приложений генеративного искусственного интеллекта, сумели сократить объем галлюцинаций в своих ответах, однако галлюцинации в этих моделях по-прежнему возможны. Поэтому устранение галлюцинаций необходимо для получения надежных и достоверных ответов. Функция устранения галлюцинаций в Q Business помогает получать более точные ответы на основе дополненной извлеченными данными генерации (RAG), используя данные, подключенные к приложению. Эти данные могут поступать из подключенных источников или из файлов, загружаемых в чат. Во время чата Q Business проверяет ответы на наличие галлюцинаций. При обнаружении галлюцинации с высокой степенью достоверности помощник исправляет несоответствия в своих ответах чата в режиме реального времени и генерирует новое отредактированное сообщение.
Данная функция помощника Amazon Q Business предлагается во всех регионах, где он доступен. Клиенты могут активировать эту функцию с помощью API или консоли Amazon Q. Подробнее см. в документации. Дополнительные сведения о помощнике Amazon Q Business и его функциях см. на странице продукта Amazon Q.