Entwickeln Sie skalierbare KI-Agenten: Serverless-Architektur in AWS

 

Die Entwicklung von Software im Zeitalter der generativen KI ist ein Paradoxon. Einerseits sind moderne Wissensmodelle so mächtig geworden, dass die Erstellung einer ersten Version einer KI-gestützten Anwendung kaum mehr erfordert, als eine einfache Chat-API aufzurufen (und einen Coding-Agenten den größten Teil des Codes schreiben zu lassen!). Andererseits erfordert das Maß an Genauigkeit, Leistung und Kostenoptimierung, das für eine KI-Anwendung in Produktionsqualität erforderlich ist, oft eine komplexe technische Architektur.

Diese Komplexität ist zum Teil darauf zurückzuführen, dass generative KI-Algorithmen eher probabilistisch als deterministisch sind. Um die Varianz in der Ausgabe eines Modells zu reduzieren und die Zuverlässigkeit zu verbessern, verwenden Entwickler Techniken wie beispielsweise die Bereitstellung von Beispielen dafür, wie eine „gute“ Reaktion aussieht, oder das Hinzufügen zusätzlicher Informationen („Kontext“), die das Modell bei der Generierung der Ausgabe berücksichtigen kann. Infolgedessen wird der Code einer KI-gestützten Anwendung schnell viel komplexer als einfache Aufrufe der Chat-API des Modells. Entwickler müssen mindestens eine Datenbereitstellungsschicht hinzufügen, die Aufrufe spezialisierter Datenbanken beinhaltet, um den Kontext zu erstellen, der dem Modell angezeigt wird.

Aber die Komplexität hört hier nicht auf. Wenn Entwickler ihren KI-gestützten Anwendungen mehr Funktionen hinzufügen, werden sie häufig feststellen, dass dafür unterschiedliche Kontexte und unterschiedliche Prompts erforderlich sind. Entwickler, die sich zu Abstraktionen hingezogen fühlen, organisieren den Code, der diese verschiedenen Funktionen unterstützt, in eigenständigen Modulen. In der KI wird diese Art von Entwurfsmuster als „Agent“ bezeichnet.

Ein Agent ist ein Codemodul, das generative KI-Modelle verwendet, um eine bestimmte Aufgabe autonom auszuführen. Agenten können alleine oder in Verbindung mit anderen Agenten handeln. Sie können auch „Tools“ aufrufen, bei denen es sich in der Regel um APIs oder Funktionen handelt, die in dem Kontext enthalten sind, der dem Agenten zur Verfügung steht. Das Nettoergebnis dieses agentischen Ansatzes beim Softwaredesign ist, dass das Context Engineering – der Prozess des Abrufs der relevanten Daten, die ein Agent zur Erledigung seiner Aufgabe benötigt – komplexer wird. Darüber hinaus müssen die Agenten selbst oft asynchron außerhalb der Hauptanwendung ausgeführt werden (dies gilt insbesondere für Agenten, die Zugriff auf sensible Daten benötigen). Dies kann die Verwaltung völlig separater Laufzeitumgebungen sowie Anmeldeinformationen erfordern.

Eine typische Agenten-KI-Anwendung kann in die folgenden Komponenten unterteilt werden:

1. Das generative KI-Modell, das in der Regel ein großes Sprachmodell (LLM) und die APIs umfasst, die den Zugriff darauf ermöglichen.
2. Software-Frameworks, die praktische Abstraktionen zu den Modell-APIs auf niedrigerer Ebene bieten, und Softwareentwicklungskits für die Erstellung von Agenten und die Durchführung vieler Datenzugriffsvorgänge, die für das Context Engineering erforderlich sind.
3. Datenbereitstellungskomponenten, die die Informationen bereitstellen, die in dem Kontext enthalten sind, der den Agenten zur Verfügung gestellt wird. Diese können aus einer Vielzahl verschiedener Datenspeicher bestehen (relationale Datenbankverwaltungssysteme, NoSQL-Datenbanken usw.), beinhalten aber fast immer irgendeine Art von Service für die semantische Suche. Bei Agentenanwendungen wird dies in der Regel in einen Vektorspeicher ausgelagert, der numerische Darstellungen von Textdaten speichert, die als Einbettungen bezeichnet werden.
4. Eine Laufzeitumgebung für die Agenten. Bei einfachen Agentenanwendungen können die Agenten prozessintern mit dem Anwendungscode ausgeführt werden. In den meisten Fällen müssen die Agenten jedoch in ihrem eigenen Prozessraum ausgeführt werden, in einer Sandbox von der Hauptanwendung isoliert.

Wie bei allen Softwarearchitekturen, bei denen mehrere Komponenten zusammenarbeiten müssen, ist ein erheblicher Aufwand an undifferenzierter Arbeit erforderlich, um sicherzustellen, dass diese Komponenten robust, redundant und leistungsfähig sind. Zum Glück profitieren agentische KI-Anwendungen von denselben Cloud-nativen Architekturen wie herkömmliche Anwendungen. Serverless-Architekturen sind besonders attraktiv für agentische KI-Anwendungen, und AWS bietet eine Vielzahl von Serverless-Angeboten, mit denen Entwickler schnell, einfach und kostengünstig agentische KI-Anwendungen erstellen können.

Beginnen wir mit der Komponente, die am bekanntesten ist: den generativen KI-Modellen selbst. Der Begriff für das Servieren von Modellen lautet „Inferenz“. Amazon Bedrock bietet für Serverless-Inferenz einen verwalteten Service für die Ausführung und den Zugriff auf generative KI-Basismodelle. Diese reichen von LLMs mit hochmodernem Wissen wie Claude von Anthropic über sprachbasierte Modelle wie Amazon Nova Sonic bis hin zu Modellen mit offenem Gewicht von OpenAI und Mistral, auf die alle über eine einheitliche API zugegriffen werden kann.

Als nächstes Inferenz. Dies ist in der Regel komplex und erfordert spezielle Hardware wie GPUs und ein tiefes Verständnis der Netzwerk-Frameworks auf niedriger Ebene, die es GPU-Clustern ermöglichen, miteinander zu kommunizieren. Traditionell führte dies zu betrieblichen Herausforderungen und zu einer Zugangsbarriere, insbesondere für Startups. Amazon Bedrock hilft dabei, diese Barrieren zu überwinden, da die Benutzer nur lernen müssen, wie sie die APIs der Lösung verwenden.

Neben Inferenz und Model Serving bietet Amazon Bedrock auch volle Unterstützung für die gängigsten Datenservierungskomponenten im agentischen KI-Stack. Amazon-Bedrock-Wissensdatenbanken können beispielsweise für die semantische Suche verwendet werden, bei der eine Sammlung von Dokumenten durchsucht wird, die dem Text in der Abfrage semantisch ähnlich sind. Dies ist in Fällen von entscheidender Bedeutung, in denen ein KI-Agent zusätzliche Informationen in seinem Kontext benötigt.

Beispielsweise muss ein Kundendienstmitarbeiter möglicherweise FAQ-Dokumente einsehen, die mit den Informationen übereinstimmen, nach denen der Kunde fragt, z. B. „Wie ändere ich die mit meinem Konto verknüpfte Adresse?“ Mithilfe von Amazon-Bedrock-Wissensdatenbanken können FAQ-Dokumente für die semantische Suche indexiert werden, indem sie in einem Amazon-S3-Bucket gespeichert und dieser Bucket als Datenquelle für eine Bedrock-Wissensdatenbank konfiguriert wird. Der Service kümmert sich um das „Chunking“ der Dokumente (das Aufteilen eines Dokuments in kleinere Teile), das „Vektorisieren“ jedes Chunks (Erstellen der numerischen Einbettungen des Textes) und das Speichern und Verknüpfen der Chunks und der Einbettungen miteinander, sodass relevante Chunks in einer semantischen Abfrage zurückgegeben werden können.

Sobald diese Einbettungen erstellt wurden, müssen sie in einer speziellen Datenbank für Einbettungen oder einem Vektorspeicher gespeichert werden. Amazon-Bedrock-Wissensdatenbanken unterstützen mehrere Vektorspeicheroptionen, darunter Amazon S3 Vectors, eine serverlose Vektordatenbank, die in Amazon S3 integriert ist. Diese Art der Datenbereitstellungsschicht ist als Retrieval Augmented Generation (RAG) bekannt und lässt sich mithilfe von Amazon-Bedrock-Wissensdatenbanken, S3 und S3 Vectors einfach implementieren. Auf diese Weise können sich Entwickler auf die Funktionalität ihrer KI-Agenten konzentrieren, anstatt die komplexe Infrastruktur für die Datenbereitstellung zu verwalten.

Sobald Einbettungen gespeichert sind und über Vektorspeicher zugänglich sind, besteht der nächste Schritt darin, KI-Agenten auszuführen, die diese Daten verwenden. Amazon Bedrock AgentCore bietet eine Serverless-Laufzeitumgebung für Entwickler. Agenten können mit Frameworks wie LangChain, Strands oder sogar mit etwas Eigenem erstellt werden. Entwickler können den Agenten dann in ein ZIP-Archiv packen und in S3 laden. Alternativ können sie ein Container-Image erstellen und es in die Elastic Container Registry (ECR) von Amazon pushen. Sobald sich ihr Code in S3 oder ECR befindet, können sie AgentCore so konfigurieren, dass sie ihren Agenten in der Cloud ausführen, ohne Server verwalten zu müssen. AgentCore kümmert sich auch um betriebliche Prozesse wie die Authentifizierung und unterstützt entweder integrierte Rollen für AWS Identity and Access Management oder JSON-Web-Token für die Anmeldung über einen Corporate-Identity-Anbieter.

Amazon Bedrock und AgentCore bieten viele weitere Serverless-Funktionen, aber die drei in diesem Artikel beschriebenen bieten den idealen Ausgangspunkt für die Entwicklung agentischer KI-Anwendungen mit voller Unterstützung für RAG. Erstens Amazon Bedrock für Inferenz mit einer großen Auswahl an Modellen; zweitens Amazon-Bedrock-Wissensdatenbanken und S3 Vectors für die Dokumentenindizierung und semantische Suche; und schließlich Amazon AgentCore für die sichere und kostengünstige Ausführung von Agenten.

Die Entwicklung agentischer KI-Anwendungen war traditionell komplex und herausfordernd, insbesondere für Startups, die oft mit begrenzten Ressourcen arbeiten. Serverless-Architekturen reduzieren diese Komplexität, da Techniker die zugrunde liegende Infrastruktur nicht mehr aufbauen und verwalten müssen. Egal, ob Sie ein erfahrener Entwickler von agentischer KI sind oder gerade erst anfangen, Amazon Bedrock bietet eine umfassende Reihe von Tools und Services, die Ihnen helfen, vertrauensvoll zu entwickeln und zu skalieren.

Sind Sie bereit, mit der Entwicklung agentischer KI in AWS zu beginnen? AWS Activate bietet Zugriff auf AWS-Guthaben, mit dem die Kosten der in diesem Artikel behandelten Lösungen sowie einer Vielzahl anderer Services ausgeglichen werden können. Seit seiner Gründung im Jahr 2013 hat AWS Activate Startups auf der ganzen Welt Kredite in Höhe von mehr als 8 Milliarden USD zur Verfügung gestellt. Gründer profitieren auch von Programmen und Ressourcen, technischem Support, Unternehmensmentoring und einer engeren Verbindung zur globalen Startup-Community. Schließen Sie sich Millionen von anderen an und entdecken Sie, wie Sie Ihre Ideen vom Konzept bis zur Cloud-tauglichen Umsetzung umsetzen können.