Was ist Prompt Engineering?

Die Zahl der Stellen im Bereich Prompt-Engineering hat seit der Einführung der generativen KI erheblich zugenommen. Prompt-Engineers schließen die Lücke zwischen Ihren Endbenutzern und dem großen Sprachmodell. Sie identifizieren Skripte und Vorlagen, die Ihre Benutzer anpassen und vervollständigen können, um das beste Ergebnis aus den Sprachmodellen zu erzielen. Diese Prompt-Engineers experimentieren mit verschiedenen Arten von Eingaben, um eine Prompt-Bibliothek zu erstellen, die Anwendungsentwickler in verschiedenen Szenarien wiederverwenden können.

Prompt-Engineering macht KI-Anwendungen effizienter und effektiver. Anwendungsentwickler kapseln in der Regel offene Benutzereingaben in einer Aufforderung, bevor sie sie an das KI-Modell übergeben.

Denken Sie zum Beispiel an KI-Chatbots. Ein Benutzer kann eine unvollständige Problembeschreibung eingeben, z. B. „Wo kann ich ein Hemd kaufen?“ Intern verwendet der Code der Anwendung eine technische Aufforderung, die besagt: „Sie sind ein Verkaufsassistent für ein Bekleidungsunternehmen. Ein Benutzer mit Sitz in Alabama, USA, fragt Sie, wo er ein Shirt kaufen können. Antworten Sie mit den drei nächstgelegenen Filialen, die derzeit ein Shirt auf Lager haben.“ Der Chatbot generiert dann relevantere und genauere Informationen.

Als Nächstes besprechen wir einige Vorteile von Prompt-Engineering.

Bessere Kontrolle durch Entwickler

Prompt-Engineering gibt Entwicklern mehr Kontrolle über die Interaktionen der Benutzer mit der KI. Effektive Aufforderungen vermitteln die Absicht und stellen den Kontext für die großen Sprachmodelle her. Sie helfen der KI, die Ausgabe zu verfeinern und sie präzise im erforderlichen Format zu präsentieren.

Sie verhindern auch, dass Ihre Benutzer die KI missbrauchen oder etwas anfordern, das die KI nicht weiß oder nicht genau bearbeiten kann. Beispielsweise möchten Sie möglicherweise verhindern, dass Ihre Benutzer unangemessene Inhalte in einer KI-Anwendung für Unternehmen generieren.

Verbesserte Benutzererfahrung

Benutzer vermeiden Versuche und Irrtümer und erhalten dennoch kohärente, genaue und relevante Antworten von KI-Tools. Prompt-Engineering macht es Benutzern leicht, auf Anhieb relevante Ergebnisse zu erhalten. Es trägt dazu bei, Verzerrungen zu mildern, die durch bestehende menschliche Vorurteile in den Trainingsdaten der großen Sprachmodelle entstehen können.

Darüber hinaus verbessert es die Benutzer-KI-Interaktion, sodass die KI die Absicht des Benutzers auch bei minimalem Aufwand versteht. Beispielsweise führen Anfragen zur Zusammenfassung eines Rechtsdokuments und eines Nachrichtenartikels zu unterschiedlichen Ergebnissen, je nach Stil und Ton. Dies gilt auch dann, wenn beide Benutzer der Anwendung nur sagen „Dieses Dokument zusammenfassen.“

Erhöhte Flexibilität

Höhere Abstraktionsebenen verbessern KI-Modelle und ermöglichen es Unternehmen, flexiblere Tools in großem Maßstab zu entwickeln. Ein Prompt-Engineer kann Aufforderungen mit domainneutralen Anweisungen erstellen, die logische Verknüpfungen und allgemeine Muster hervorheben. Unternehmen können die Eingabeaufforderungen schnell unternehmensweit wiederverwenden, um ihre KI-Investitionen zu erweitern.

Um beispielsweise Möglichkeiten zur Prozessoptimierung zu finden, kann der Prompt-Engineer verschiedene Eingabeaufforderungen erstellen, die das KI-Modell darauf trainieren, Ineffizienzen zu finden, indem er breite Signale anstelle von kontextspezifischen Daten verwendet. Die Eingabeaufforderungen können dann für verschiedene Prozesse und Geschäftsbereiche verwendet werden.

Prompt-Engineering ist ein dynamisches und sich entwickelndes Gebiet. Es erfordert sowohl sprachliche Fähigkeiten als auch kreativen Ausdruck, um die Eingabeaufforderungen zu verfeinern und die gewünschte Reaktion von den generativen KI-Tools zu erhalten.

Hier sind einige Beispiele für Techniken, die Ingenieure dazu veranlassen, die Aufgaben der natürlichen Sprachverarbeitung (NLP) ihrer KI-Modelle zu verbessern.

Chain-of-Thought-Aufforderung

Chain-of-Thought-Aufforderung ist eine Technik, die eine komplexe Frage in kleinere, logische Teile zerlegt, die einen Gedankengang nachahmen. Dies hilft dem Modell, Probleme in einer Reihe von Zwischenschritten zu lösen, anstatt die Frage direkt zu beantworten. Dies verbessert seine Argumentationsfähigkeit.

Sie können mehrere Chain-of-Thought-Rollouts für komplexe Aufgaben durchführen und die am häufigsten getroffene Schlussfolgerung auswählen. Wenn die Rollouts erheblich voneinander abweichen, kann eine Person hinzugezogen werden, um die Gedankenkette zu korrigieren.

Zum Beispiel, wenn die Frage „Was ist die Hauptstadt von Frankreich?“ lautet, könnte das Modell mehrere Rollouts durchführen, die zu Antworten wie „Paris“, „Die Hauptstadt Frankreichs ist Paris“ und „Paris ist die Hauptstadt Frankreichs“ herausgeben. Da alle Rollouts zu demselben Ergebnis führen, würde „Paris“ als endgültige Antwort ausgewählt werden.

Tree-of-Thought-Aufforderung

Die Tree-of-Thought-Technik verallgemeinert die Chain-of-Thought-Aufforderung. Sie fordert das Modell auf, einen oder mehrere mögliche nächste Schritte zu generieren. Anschließend wird das Modell bei jedem möglichen nächsten Schritt mithilfe einer Baumsuchmethode ausgeführt.

Zum Beispiel, wenn die Frage „Was sind die Auswirkungen des Klimawandels? lautet, könnte das Modell zunächst mögliche nächste Schritte wie „Umweltauswirkungen auflisten“ und „Soziale Auswirkungen auflisten“ generieren. Es würde dann in den nachfolgenden Schritten auf jeden dieser Punkte näher eingehen.

Maieutische Aufforderung

Maieutische Aufforderungen ähneln Chain-of-Thought-Aufforderungen. Das Modell wird aufgefordert, eine Frage mit einer Erklärung zu beantworten. Das Modell wird dann aufgefordert, Teile der Erklärung zu erklären,. Inkonsistente Erklärungsbäume werden beschnitten oder verworfen. Dies verbessert die Leistung bei komplexen Argumenten mit gesundem Menschenverstand.

Zum Beispiel, wenn die Frage „Warum ist der Himmel blau?“ lautet, könnte das Modell zunächst antworten mit „Der Himmel erscheint dem menschlichen Auge blau, weil die kurzen Wellen des blauen Lichts von den Gasen und Partikeln in der Erdatmosphäre in alle Richtungen gestreut werden.“ Es könnte dann Teile dieser Erklärung erweitern, etwa warum blaues Licht stärker gestreut wird als andere Farben und woraus die Erdatmosphäre besteht.

Auf Komplexität basierende Eingabeaufforderungen

Diese Prompt-Engineering-Technik beinhaltet die Durchführung mehrerer Chain-of-Thought-Rollouts. Sie wählt die Rollouts mit den längsten Gedankenketten und wählt dann die am häufigsten getroffene Schlussfolgerung aus.

Handelt es sich bei der Frage beispielsweise um eine komplexe mathematische Aufgabe, kann das Modell mehrere Rollouts durchführen, die jeweils mehrere Berechnungsschritte beinhalten. Es würde die Rollouts mit der längsten Gedankenkette berücksichtigen, was in diesem Beispiel die meisten Berechnungsschritte wären. Die Rollouts, die zu einem gemeinsamen Ergebnis mit anderen Rollouts führen, würden als endgültige Antwort ausgewählt.

Generierte Wissensvermittlung

Bei dieser Technik wird das Modell aufgefordert, zunächst relevante Fakten zu generieren, die für die Ausführung der Aufforderung erforderlich sind. Anschließend wird die Eingabeaufforderung abgeschlossen. Dies führt häufig zu einer höheren Abschlussqualität, da das Modell von relevanten Fakten abhängig ist.

Stellen Sie sich zum Beispiel vor, ein Benutzer fordert das Modell auf, einen Aufsatz über die Auswirkungen der Entwaldung zu schreiben. Das Modell könnte zunächst Fakten wie „Entwaldung trägt zum Klimawandel bei“ und „Entwaldung führt zum Verlust der biologischen Vielfalt“ zurückgeben. Dann würde es auf die Punkte des Aufsatzes näher eingehen.

Von der geringsten bis zur häufigsten Aufforderung

Bei dieser Prompt-Engineering-Technik wird das Modell aufgefordert, zunächst die Teilprobleme eines Problems aufzulisten und sie dann nacheinander zu lösen. Dieser Ansatz stellt sicher, dass spätere Teilprobleme mit Hilfe von Antworten auf frühere Teilprobleme gelöst werden können.

Stellen Sie sich zum Beispiel vor, dass ein Benutzer das Modell mit einer mathematischen Aufgabe wie „Gleichung 2x + 3 = 11 nach x auflösen“ aufruft. Das Modell könnte die Teilprobleme zunächst als „3 von beiden Seiten subtrahieren“ und „Durch 2 dividieren“ auflisten. Es würde sie dann nacheinander lösen, um die endgültige Antwort zu erhalten.

Automatische Eingabeaufforderung

Bei dieser Technik wird das Modell aufgefordert, das Problem zu lösen, seine Lösung zu kritisieren und dann das Problem unter Berücksichtigung des Problems, der Lösung und der Kritik zu lösen. Der Problemlösungsprozess wiederholt sich, bis ein vorher festgelegter Grund für den Stopp erreicht ist. Beispielsweise könnten dem Modell die Token oder die Zeit ausgehen, oder das Modell könnte ein Stopp-Token ausgeben.

Stellen Sie sich zum Beispiel vor, ein Benutzer fordert ein Modell auf „Einen kurzen Aufsatz über Literatur schreiben.“ Das Modell könnte einen Aufsatz verfassen, ihn mangels konkreter Beispiele kritisieren und den Aufsatz so umschreiben, dass er spezifische Beispiele enthält. Dieser Vorgang würde wiederholt werden, bis der Aufsatz als zufriedenstellend erachtet wird oder ein Stoppkriterium erfüllt ist.

Direktionale Stimulus-Aufforderung

Diese Prompt-Engineering-Technik beinhaltet einen Hinweis oder einen Hinweis, z. B. gewünschte Schlüsselwörter, um das Sprachmodell zur gewünschten Ausgabe zu führen.

Wenn die Aufforderung beispielsweise darin besteht, ein Gedicht über Liebe zu schreiben, kann der Prompt-Engineer Aufforderungen verfassen, die „Herz“, „Leidenschaft“ und „Ewigkeit“ enthalten. Das Modell könnte aufgefordert werden „Ein Gedicht über Liebe schreiben, das die Wörter „Herz“, „Leidenschaft“ und „Ewigkeit“ enthält“. Dies würde das Modell dazu anleiten, ein Gedicht mit diesen Schlüsselwörtern zu verfassen.

Amazon Web Services (AWS) bietet die Breite und Tiefe von Tools für die Entwicklung und Nutzung der generativen KI. Sie können zum Beispiel diese Services nutzen:

• Amazon CodeWhisperer zum Generieren von Codevorschlägen in Echtzeit anhand Ihrer Kommentare und vorhandenem Code, die von Auszügen bis hin zu vollen Funktionen reichen.
• Amazon Bedrock zum Beschleunigen der Entwicklung von Anwendungen generativer KI mithilfe von Sprachmodellen über eine API, ohne die Infrastruktur verwalten zu müssen.
• Amazon SageMaker JumpStart zum Entdecken, Erkunden und Bereitstellen von Open-Source-Sprachmodellen. Sie können beispielsweise mit Modellen wie OpenLLaMA, RedPajama, MPT-7B, FLAN-T5, GPT-NeoX-20B und BLOOM von MosaicML arbeiten.

Wenn Sie lieber Ihre eigenen Modelle erstellen möchten, verwenden Sie Amazon SageMaker. Es bietet verwaltete Infrastruktur und Tools, um die skalierbare, zuverlässige und sichere Modellerstellung, das Training und die Bereitstellung zu beschleunigen.

Beginnen Sie mit Prompt-Engineering in AWS, indem Sie noch heuteein Konto erstellen.