AWS Germany – Amazon Web Services in Deutschland

Agents für Amazon Bedrock sind jetzt mit verbesserter Kontrolle der Orchestrierung und Einblick in die Argumentation verfügbar

von Antje Barth, übersetzt von Tobias Nitzsche.

Im Juli haben wir Agenten für Amazon Bedrock in einer Vorschau vorgestellt. Heute sind die Agenten für Amazon Bedrock [EN] allgemein verfügbar.

Amazon Bedrock Agenten unterstützen Sie dabei, die Entwicklung von Anwendungen mit generativer Künstlicher Intelligenz (KI) schneller voranzutreiben. Diese Agenten teilen komplexere Aufgaben, die von Nutzern gestellt werden, in einfachere Schritte auf. Dabei stützen sie sich auf das logische Denkvermögen von sogenannten Grundlagenmodellen (Foundation Models, FM). Sie folgen Anweisungen von Entwicklern, um einen Plan für diese Aufgabenteilung zu erstellen und führen ihn dann aus. Um konkrete Antworten in natürlicher Sprache zu generieren, können Agenten auch auf Ihre Unternehmens-APIs zugreifen und Wissensdatenbanken mit einer Technik namens Retrieval Augmented Generation (RAG) verwenden. Wenn Sie mehr darüber erfahren möchten, können Sie sich meine früheren Beiträge zu diesem Thema ansehen. Dort gebe ich eine Einführung in fortgeschrittene logische Schlussfolgerungen und erkläre die Grundlagen von RAG.

Ab heute verfügen die Agenten für Amazon Bedrock auch über erweiterte Fähigkeiten, die eine verbesserte Kontrolle der Orchestrierung und eine bessere Einsehbarkeit in die Kette der Gedankenbegründung (Chain of Thoughts, CoT) umfassen.

Amazon Bedrock-Agenten automatisieren im Hintergrund das Erstellen und Koordinieren von Aufgaben, die Nutzer anfordern. Dazu gehören zum Beispiel die Verwaltung von Einzelhandelsbestellungen oder die Bearbeitung von Versicherungsansprüchen. Ein Agent generiert automatisch einen Koordinationsbefehl und fügt, wenn er mit Wissensdatenbanken verbunden ist, spezifische Firmeninformationen hinzu. Er kann auch APIs aufrufen, um den Nutzern Antworten in natürlicher Sprache zu geben.

Als Entwickler:in können Sie die neue Trace-Funktion verwenden, um den Gedankengang (CoT) hinter dem ausführten Plan zu verstehen. Sie haben Einblick in die einzelnen Schritte des Orchestrierungsprozesses, was bei der Fehlerbehebung hilfreich ist.

Außerdem können Sie den automatisch erstellten Prompt einsehen und anpassen, um das Benutzererlebnis zu verbessern. Durch Aktualisieren dieses Prompts oder der Prompt-Vorlage können Sie die Orchestrierung und die Qualität der Antworten optimieren, was Ihnen mehr Kontrolle über den gesamten Prozess gibt.

Lassen Sie mich Ihnen zeigen, wie Sie die Begründungsschritte einsehen und den Prompt ändern können.

Einsehen der Begründungsschritte

Traces ermöglichen es Ihnen, die Denkweise des Agenten zu verstehen, die auf der sogenannten Gedankenketten-Begründung (Chain of Thought, CoT) beruht. Mit den CoT-Traces können Sie nachvollziehen, wie der Agent schrittweise Aufgaben bewältigt. Der CoT-Prompt verwendet eine Begründungstechnik namens ReAct [EN, Extern], die Begründung und Handlung kombiniert. Für weitere Informationen über ReAct und die spezielle Struktur des Prompts, lesen Sie meinen vorherigen Blogbeitrag über fortgeschrittene Begründungsmethoden.

Um zu starten, gehen Sie zur Amazon Bedrock-Konsole und wählen Sie dort einen bestehenden Agenten-Entwurf aus. Klicken Sie dann auf Testen (Test) und geben Sie eine Beispielanfrage ein. Um die Trace-Ansicht des Agenten zu sehen, wählen Sie in seiner Antwort die Option Trace anzeigen (Show trace).

Der CoT-Trace zeigt die Begründung des Agenten Schritt für Schritt. Öffnen Sie jeden Schritt, um die Details der CoT zu sehen.

Die verbesserte Sichtbarkeit erleichtert es Ihnen, die Logik des Agenten bei der Aufgabenerfüllung zu verstehen. Als Entwickler:in können Sie diese Einblicke nutzen, um die Prompts, Anweisungen und Aktionen des Agenten zu verfeinern. Dadurch können Sie sowohl die Aktionen als auch die Antworten des Agenten während iterativer Tests anpassen und so das Benutzererlebnis kontinuierlich verbessern.

Anpassen von durch Agenten erstellten Prompts

Der Agent generiert automatisch eine Prompt-Vorlage basierend auf den vorgegebenen Anweisungen. Sie haben die Möglichkeit, die Vorverarbeitung der Nutzereingaben, den Orchestrierungsplan und die Nachbearbeitung der Antworten zu aktualisieren.

Um zu starten, gehen Sie zur Amazon Bedrock-Konsole und wählen Sie einen vorhandenen Agenten-Entwurf aus. Klicken Sie anschließend neben der Option Erweiterte Prompts (Advanced prompts) auf die Schaltfläche Bearbeiten (Edit).

In diesem Bereich finden Sie vier verschiedene Arten von Vorlagen. Vorverarbeitungsvorlagen legen fest, wie der Agent Nutzereingaben interpretieren und einordnen soll.

Orchestrierungsvorlagen geben dem Agenten ein kurzfristiges Gedächtnis, eine Liste verfügbarer Aktionen und Wissensdatenbanken mit Beschreibungen. Sie zeigen auch Beispiele, wie Probleme aufgeteilt und Aktionen sowie Wissen in verschiedenen Reihenfolgen oder Kombinationen angewendet werden können. Vorlagen für Wissensdatenbankantworten bestimmen, wie Informationen aus den Wissensdatenbanken in der Antwort genutzt und zusammengefasst werden. Nachverarbeitungsvorlagen definieren, wie der Agent die endgültige Antwort für die Nutzer formatiert und präsentiert. Sie können entweder die Standardvorlagen nutzen oder diese nach Bedarf anpassen und überschreiben.

Wissenswertes

Wenn Sie mit Amazon Bedrock-Agenten arbeiten, gibt es einige bewährte Methoden und wichtige Aspekte zu beachten.

Agenten arbeiten am effizientesten, wenn sie auf eine spezifische Aufgabe fokussiert sind. Ein klares Ziel und präzise Anweisungen, kombiniert mit einem begrenzten Satz von (API-) Aktionen, erleichtern es dem Agenten, zu logischen Schlüssen zu kommen und die passenden Schritte zu finden. Sollten Sie verschiedene Aufgaben abdecken müssen, ist es oft sinnvoll, separate Agenten für jede Aufgabe zu erstellen, anstatt einen einzigen Agenten mit mehreren Aufgaben zu betrauen.

Hier sind einige zusätzliche Empfehlungen für die Arbeit mit Agenten:

  • Anzahl der APIs – Beschränken Sie sich auf drei bis fünf APIs pro Agent. Diese sollten nur einige wenige Eingabeparameter haben.
  • API-Design – Folgen Sie den allgemeinen Best Practices für API-Design. Ein wichtiger Aspekt ist die Sicherstellung der Idempotenz, also dass wiederholte Aufrufe derselben API unter denselben Bedingungen das gleiche Ergebnis liefern.
  • API-Aufrufvalidierungen – Es ist wichtig, alle API-Aufrufe gründlich zu validieren. Dies gilt besonders im Kontext großer Sprachmodelle, da diese manchmal ungenaue oder „halluzinierte“ Eingaben und Ausgaben erzeugen können. Eine umfassende Validierung hilft, solche Fehler zu erkennen und zu korrigieren.

Verfügbarkeit und Preisgestaltung

Ab heute sind die Amazon Bedrock-Agenten in den AWS-Regionen USA Ost (N. Virginia) und USA West (Oregon) verfügbar. Sie werden basierend auf den durchgeführten Inferenzaufrufen (InvokeModel API) berechnet. Beachten Sie, dass der Aufruf der InvokeAgent-API nicht gesondert in Rechnung gestellt wird. Für genauere Informationen zur Preisgestaltung besuchen Sie bitte die Amazon Bedrock-Preisseite [EN].

 

Antje Barth

Antje Barth

Antje Barth ist Principal Developer Advocate für KI und ML bei AWS. Sie ist Co-Autorin des O’Reilly-Buchs – Data Science auf AWS. Antje spricht häufig auf KI/ML-Konferenzen, Veranstaltungen und Meetups weltweit. Sie hat außerdem das Düsseldorfer Chapter von Women in Big Data mitbegründet.