O que é engenharia por prompt?

As tarefas da engenharia de prompt aumentaram significativamente desde o lançamento da IA generativa. Os engenheiros desse tipo de engenharia preenchem a lacuna entre os usuários finais e o grande modelo de linguagem. Eles identificam scripts e modelos que seus usuários podem personalizar e concluir para obter o melhor resultado dos modelos de linguagem. Esses engenheiros experimentam diferentes tipos de entradas para criar uma biblioteca de prompts que os desenvolvedores de aplicações podem reutilizar em diferentes cenários.

A engenharia de prompt torna as aplicações de IA mais eficientes e eficazes. Os desenvolvedores de aplicações normalmente encapsulam a entrada aberta do usuário em um prompt antes de passá-la para o modelo de IA.

Por exemplo, considere os chatbots de IA. Um usuário pode inserir uma declaração de problema incompleta, como “Onde comprar uma camisa.” Internamente, o código da aplicação usa um prompt desenvolvido que diz: “Você é assistente de vendas de uma empresa de roupas. Um usuário localizado no Alabama, Estados Unidos, está perguntando onde comprar uma camisa. Responda com as três lojas mais próximas que atualmente estocam camisas.” O chatbot então gera informações mais relevantes e precisas.

A seguir, discutiremos alguns benefícios da engenharia de prompt.

Maior controle para o desenvolvedor

A engenharia de prompt oferece aos desenvolvedores mais controle sobre as interações dos usuários com a IA. Prompts eficazes fornecem a intenção e estabelecem o contexto para os grandes modelos de linguagem. Eles ajudam a IA a refinar a saída e apresentá-la de forma concisa no formato necessário.

Eles também evitam que os usuários usem indevidamente a IA ou solicitem algo que a IA não saiba ou não possa manipular com precisão. Por exemplo, talvez você queira impedir que seus usuários gerem conteúdo impróprio em uma aplicação comercial de IA.

Melhor experiência do usuário

Os usuários evitam tentativas e erros e ainda recebem respostas coerentes, precisas e relevantes das ferramentas de IA. A engenharia de prompt facilita para que os usuários obtenham resultados relevantes já no primeiro prompt. Isso ajuda a mitigar a tendência que pode estar presente na tendência humana existente nos dados de treinamento dos grandes modelos de linguagem.

Além disso, ela aprimora a interação entre o usuário e a IA para que a IA entenda a intenção do usuário, mesmo com o mínimo de entrada. Por exemplo, solicitações para resumir um documento legal e um artigo de notícias obtêm resultados diferentes ajustados de acordo com o estilo e o tom. Isso é pertinente mesmo que os dois usuários simplesmente peçam à aplicação: “Resuma este documento.”

Maior flexibilidade

Níveis mais altos de abstração melhoram os modelos de IA e permitem que as organizações criem ferramentas mais flexíveis em grande escala. Um engenheiro pode criar prompts com instruções de domínio neutro, destacando links lógicos e padrões amplos. As organizações podem reutilizar rapidamente os prompts em toda a empresa para expandir seus investimentos em IA.

Por exemplo, para encontrar oportunidades de otimização de processos, o engenheiro de prompts pode criar solicitações diferentes que treinam o modelo de IA para encontrar ineficiências usando sinais amplos em vez de dados específicos do contexto. Os prompts podem então ser usados para diversos processos e unidades de negócios.

A engenharia de prompt é um campo dinâmico e em evolução. São necessárias habilidades linguísticas e expressão criativa para ajustar os prompts e obter a resposta desejada das ferramentas de IA generativa.

Aqui estão alguns exemplos de técnicas que a engenharia de prompt usa para melhorar as tarefas de processamento de linguagem natural (PLN) dos modelos de IA.

Prompting com cadeia de pensamento

O prompting com cadeia de pensamento é uma técnica que separa uma questão complexa em partes menores e lógicas que imitam uma linha de pensamento. Isso ajuda o modelo a resolver problemas em uma série de etapas intermediárias, em vez de responder diretamente à pergunta. Isso aumenta a capacidade de raciocínio do modelo.

Você pode receber vários resultados em cadeia para tarefas complexas e pode optar pela conclusão mais comumente alcançada. Se todos os resultados discordarem significativamente, uma pessoa pode ser consultada para corrigir a cadeia de pensamento.

Por exemplo, se a pergunta for “Qual é a capital da França?” o modelo pode retornar vários resultados, levando a respostas como “Paris”, “A capital da França é Paris” e “Paris é a capital da França”. Como todos os resultados levam à mesma conclusão, “Paris” será selecionada como a resposta final.

Prompting da árvore de pensamento (ToT)

A técnica da árvore de pensamento generaliza o prompting da cadeia de pensamento. Ela solicita que o modelo gere as próximas etapas possíveis. Em seguida, ela executa o modelo em cada possível etapa seguinte usando um método de busca em árvore.

Por exemplo, se a pergunta for “Quais são os efeitos das mudanças climáticas?” o modelo pode primeiro gerar as próximas etapas possíveis, como “Listar os efeitos ambientais ” e “Listar os efeitos sociais”. Em seguida, ele poderia elaborar cada uma delas nas etapas subsequentes.

Prompting maiêutico

O prompting maiêutico é semelhante ao prompting da árvore de pensamento. É solicitado que o modelo responda a uma pergunta com uma explicação. O modelo é então solicitado a explicar partes da explicação. As explicações inconsistentes no modelo de árvore são podadas ou descartadas. Isso melhora o desempenho nos raciocínios complexos de senso comum.

Por exemplo, se a pergunta for “Por que o céu é azul?” o modelo pode primeiro responder: “O céu parece azul ao olho humano porque as ondas curtas de luz azul são espalhadas em todas as direções pelos gases e partículas na atmosfera da Terra.” Em seguida, ele pode expandir partes dessa explicação como, porque a luz azul é mais dispersa do que outras cores ou do que a atmosfera da Terra é composta.

Prompting baseado na complexidade

Essa técnica de engenharia rápida envolve o retorno de vários resultados da cadeia de pensamento. Ela escolhe os resultados com as cadeias de pensamento mais longas e, em seguida, escolhe a conclusão mais comumente alcançada.

Por exemplo, se a pergunta for um problema matemático complexo, o modelo poderá produzir vários resultados, cada um envolvendo várias etapas de cálculos. Ele consideraria os resultados com a maior cadeia de pensamento, o que, neste exemplo, seria o maior número de etapas de cálculos. Os resultados que chegassem a uma conclusão comum com outros resultados seriam selecionados como a resposta final.

Prompting de conhecimento gerado

Essa técnica envolve solicitar que o modelo gere primeiro os fatos relevantes necessários para concluir a solicitação. Em seguida, ele prossegue com a conclusão do prompt. Isso geralmente resulta em maior qualidade da conclusão, pois o modelo está condicionado a fatos relevantes.

Por exemplo, imagine que um usuário solicite que o modelo escreva um ensaio sobre os efeitos do desmatamento. O modelo pode primeiro gerar fatos como “o desmatamento contribui para a mudança climática” e “o desmatamento leva à perda de biodiversidade”. Em seguida, ele pode elaborar os pontos do ensaio.

Prompts to tipo menor para o maior

Nessa técnica de engenharia de prompt, é necessário que o modelo primeiro liste os subproblemas de um problema e depois o solucione. Essa abordagem garante que subproblemas posteriores possam ser resolvidos com a ajuda de respostas aos subproblemas anteriores.

Por exemplo, imagine que um usuário solicite ao modelo um problema matemático como “Resolva x na equação 2x + 3 = 11”. O modelo pode primeiro listar os subproblemas como “Subtraia 3 dos dois lados” e “Divida por 2”. Em seguida, ele pode resolvê-los em sequência para obter a resposta final.

Prompts de ajuste automático

Nessa técnica, o modelo é solicitado a resolver o problema, criticar a solução e, em seguida, solucionar o problema considerando o problema, a solução e a crítica. O processo de resolução de problemas se repete até atingir um motivo predeterminado para parar. Por exemplo, ele pode ficar sem tokens ou tempo, ou o modelo pode gerar um token de parada.

Por exemplo, imagine que um usuário solicite a uma modelo “Escreva um pequeno ensaio sobre literatura.” O modelo pode redigir um ensaio, criticá-lo por falta de exemplos específicos e reescrever o ensaio para incluir exemplos específicos. Esse processo pode se repetir até que o ensaio seja considerado satisfatório ou até que um critério de interrupção seja atendido.

Prompt de estímulo direcional

Essa técnica de engenharia de prompt inclui uma dica ou sugestão, como as palavras-chave desejadas, para orientar o modelo de linguagem a obter o resultado desejado.

Por exemplo, se a solicitação for escrever um poema sobre o amor, o engenheiro de prompt poderá criar sugestões que incluam “coração”, “paixão” e “eterno”. O modelo poderá dar a sugestão: “Escreva um poema sobre o amor que inclua as palavras 'coração', 'paixão' e 'eterno'.” Isso orientaria o modelo para criar um poema com essas palavras-chave.

A Amazon Web Services (AWS) oferece uma grande variedade de ferramentas abrangentes para criar e usar a IA generativa. Por exemplo, você pode usar estes serviços:

• Amazon CodeWhisperer para gerar sugestões de código que variam de trechos a funções completas em tempo real com base em seus comentários e no código existente.
• Amazon Bedrock para acelerar o desenvolvimento de aplicações de IA generativa usando modelos de linguagem por meio de uma API, sem gerenciar a infraestrutura.
• Amazon SageMaker JumpStart para descobrir, explorar e implantar modelos de linguagem de código aberto. Por exemplo, você pode trabalhar com modelos como OpenLLaMA, RedPajama, MPT-7B da MosaicML, FLAN-T5, GPT-NeoX-20B e BLOOM.

Se você preferir criar seus próprios modelos, use o Amazon SageMaker. Ele fornece infraestrutura e ferramentas gerenciadas para acelerar a criação, o treinamento e a implantação de modelos escaláveis, confiáveis e seguros.

Comece a usar a engenharia de prompt na AWS criando uma conta hoje mesmo.