Что такое инженерия подсказок?

С момента запуска генеративного ИИ количество вакансий инженеров подсказок значительно увеличились. Инженеры подсказок упрощают использование большой языковой модели для пользователей. Они определяют сценарии и шаблоны, которые пользователи могут настраивать и дополнять для получения наилучших результатов при работе с языковой моделью. Такие инженеры экспериментируют с разными типами входных данных, чтобы создать хранилище подсказок, которое разработчики приложений смогут использовать в различных сценариях.

Благодаря инженерии подсказок улучшается эффективность и результативность приложений ИИ. Разработчики приложений обычно вводят входные данные пользователя в виде подсказок, а затем передают их в модель искусственного интеллекта.

Например, рассмотрим чат-ботов с ИИ. Пользователь может ввести неполный запрос, например: «Где купить рубашку». Код приложения использует специально разработанную подсказку: «Ты продавец-консультант в компании по производству одежды. Пользователь из Алабамы, США, спрашивает, где купить рубашку. Отправь ему информацию о трех ближайших к нему магазинах, где в наличии есть рубашки». Затем чат-бот сгенерирует более релевантную и точную информацию.

Ниже указаны некоторые преимущества инженерии подсказок.

Больше контроля для разработчиков

Инженерия подсказок дает разработчикам больший контроль над взаимодействием пользователей с искусственным интеллектом. Эффективные подсказки позволяют понять суть и создать контекст для крупных языковых моделей, а также помогают ИИ уточнить выходные данные и кратко представить их в требуемом формате.

Они также не позволяют пользователям злоупотреблять ИИ или запрашивать информацию, которую ИИ не знает либо не может точно обработать. Например, вы можете запретить пользователям создавать неприемлемый контент в корпоративном приложении ИИ.

Повышение удобства для пользователей

Пользователи будут избегать проб и ошибок и по-прежнему получат последовательные, точные и актуальные ответы от инструментов ИИ. Благодаря инженерии подсказок пользователи могут быстро и легко получить релевантные результаты. С ее помощью можно уменьшить погрешность вызванную человеческой предвзятостью в обучающих данных больших языковых моделей.

Кроме того, она улучшает взаимодействие пользователя с ИИ, поэтому он понимает намерения пользователя даже при минимальном количестве введенных данных. Например, запросы на краткое изложение юридического документа и новостной статьи дают разные результаты с учетом стиля и тона. Это верно, даже если оба пользователя просто скажут приложению: «Краткое содержание документа».

Повышение гибкости

Более высокие уровни абстракции улучшают модели ИИ и с их помощью организации могут создавать более гибкие инструменты в любом масштабе. Инженер подсказок может создавать подсказки с независимыми от предметной области инструкциями, выделяя логические соединения и общие закономерности. Организации могут быстро повторно использовать подсказки по всему предприятию, делая свой вклад в развитие ИИ.

Например, чтобы найти возможности для оптимизации процессов, инженер подсказок может создавать различные подсказки, обучающие модель ИИ выявлять недостатки, используя множество материалов, а не контекстные данные. Затем подсказки можно использовать для различных процессов и корпоративных подразделений.

Инженерия подсказок динамична и быстро развивается. Инженер должен обладать как лингвистическими навыками, так и творческим подходом, чтобы суметь точно настроить подсказки и получить желаемый отклик от генеративных инструментов ИИ.

Ниже приведены несколько методов, которые инженеры используют для совершенствования задач обработки естественного языка (NLP) в своих моделях ИИ.

Подсказки по цепочке рассуждений

Метод подсказок по цепочке рассуждений – это метод, при котором сложный вопрос разбивается на небольшие логические части, имитирующие ход мыслей. Это помогает модели решать поставленные задачи за несколько промежуточных этапов, а не напрямую отвечать на вопрос, что улучшает ее способность к логическому мышлению.

Для решения сложных задач можно выполнить несколько последовательных развертываний и выбрать наиболее часто достигаемое решение. Если результаты развертываний существенно расходятся, можно обратиться к человеку, который скорректирует цепочку рассуждений.

Пример вопроса: «Какая столица Франции?» Модель может совершить несколько развертываний и дать такие ответы: «Париж», «Столица Франции – Париж», и «Париж – столица Франции». Поскольку в результате всех развертываний модель дает один и тот же ответ, она выберет вариант «Париж».

Подсказки по методу дерева мыслей

Метод дерева мыслей обобщает подсказки, основанные на цепочке рассуждений. Благодаря данному методу, модель может сгенерировать один или несколько возможных следующих шагов. Затем модель анализирует каждый из них, используя метод поиска по дереву мыслей.

К примеру, на вопрос о последствиях изменения климатамодель может сначала перечислить «экологические» и «социальные» последствия, а затем подробно рассмотреть каждые из них.

Вспомогательные подсказки

Использование вспомогательных подсказок схоже с методом дерева мыслей. Модель должна дать ответ с объяснением, а затем описать некоторые части своего объяснения. Пример противоречивого объяснения: деревья подрезают или от них избавляются. Данный метод повышает эффективность сложных рассуждений.

К примеру, на вопрос «почему небо голубое» модель может сначала ответить, что человеческому глазу небо кажется голубым, потому что газы и частицы в атмосфере Земли рассеивают короткие волны синего цвета во всех направлениях, а затем подробнее описать некоторые части этого объяснения, например, почему синий свет рассеивается больше, чем другие цвета, и из чего состоит атмосфера Земли.

Подсказки на основе сложности

Этот метод инженерии подсказок предполагает выполнение нескольких развертываний по цепочке рассуждений. Модель выбирает развертывания с самой длинной цепочкой, а затем – наиболее часто принимаемое решение.

Например, если модели поставят сложную математическую задачу, она может выполнить некоторое количество развертываний, в каждом из которых будет несколько этапов вычислений. Моделью будут рассмотрены развертывания с самыми длинными цепочками рассуждений, в данном случае – с наибольшим количеством этапов вычислений. В качестве окончательного ответа будут выбраны те развертывания, результаты которых совпадают.

Подсказки на основе сгенерированных знаний

Этот метод предполагает то, что модель сначала сгенерирует факты в соответствии с подсказкой, а затем сформулирует ответ. Благодаря этому, качество ответов повышается, ведь модель использует релевантные факты.

Например, пользователь просит модель написать эссе о последствиях вырубки лесов. Сначала она может сгенерировать факты о том, что вырубка лесов влияет на изменение климата и приводит к сокращению биологического разнообразия. Затем модель подробно опишет данные факты в качестве пунктов эссе.

От меньшего к большему

В этом методе модели предлагается сначала перечислить подзадачи, а затем последовательно их решить. Такой подход гарантирует, что последующие подзадачи могут быть решены с помощью ответов на предыдущие.

Например, пользователь просит модель найти значение «x» в уравнении 2x + 3 = 11. Сначала модель может выделить такие подзадачи: вычесть 3 с обеих сторон и разделить на 2. Затем она будет последовательно решать их, чтобы получить окончательный ответ.

Критика ответов и новые решения

В этом методе модель должна решить проблему, подвергнуть критике свой ответ, а затем снова решить ее, но уже с учетом трех факторов: сама проблема, предыдущий ответ и критика. Процесс решения будет повторяться до тех пор, пока не будет достигнут критерий остановки. К примеру, могут закончиться токены, время или модель может вывести токен остановки.

Например, пользователь просит модель написать короткое эссе по литературе. Модель может составить эссе, подвергнуть его критике за отсутствие конкретных примеров и переписать, но уже с примерами. Этот процесс будет повторяться до тех пор, пока эссе не будет признано удовлетворительным или не будет достигнут критерий остановки.

Направленные подсказки-стимулы

Данный метод подразумевает использование намека или совета. Это могут быть ключевые слова, которые помогут языковой модели дать требуемый ответ.

Например, если нужно написать стихотворение о любви, инженер может использовать слова «сердце», «страсть» и «вечная». Пример подсказки: «Напиши стихотворение о любви со словами «сердце», «страсть» и «вечная». Такие ключевые слова помогут модели составить стихотворение.

В Amazon Web Services (AWS) доступен широкий набор инструментов для создания и использования генеративного ИИ. Например, вы можете воспользоваться указанными ниже сервисами.

• Amazon CodeWhisperer, чтобы в режиме реального времени генерировать предложения для кода, начиная от его фрагментов и заканчивая полноценными функциями на основе ваших комментариев и существующего кода.
• Amazon Bedrock, чтобы ускорить разработку приложений генеративного ИИ с использованием языковых моделей посредством API, не затрагивая управление инфраструктурой.
• Amazon SageMaker JumpStart, чтобы обнаруживать, изучать и развертывать языковые модели с открытым исходным кодом. Например, вы можете работать с такими моделями, как OpenLLaMA, RedPajama, MPT-7B от MosaicML, FLAN-T5, GPT-NeoX-20B и BLOOM.

Если вы предпочитаете создавать собственные модели, воспользуйтесь студией Amazon SageMaker. Вам будет предоставлена управляемая инфраструктура и инструменты, с помощью которых вы сможете ускорить построение, обучение и развертывание масштабируемых, надежных и безопасных моделей.

Создайте аккаунт в AWS уже сегодня и ознакомьтесь с инженерией подсказок.