Amazon Bedrock – Entwicklererlebnis

Amazon Bedrock macht das Erstellen mit einer Reihe von FMs so einfach wie einen API-Aufruf. Amazon Bedrock bietet Zugriff auf führende Modelle wie Jurassic von AI21 Labs, Claude von Anthropic, Command and Embed von Cohere, Llama 2 von Meta und Stable Diffusion von Stability AI sowie auf unsere eigenen Amazon Titan-Modelle. Mit Amazon Bedrock können Sie das FM auswählen, das für Ihren Anwendungsfall und Ihre Anwendungsanforderungen am besten geeignet ist.

Sie können ganz einfach mit verschiedenen FMs experimentieren, indem Sie interaktive Playgrounds für verschiedene Modalitäten wie Text, Chat und Bild verwenden. Die Playgrounds ermöglichen es, verschiedene Modelle für Ihren Anwendungsfall auszuprobieren, um ein Gefühl für die Eignung des Modells für eine bestimmte Aufgabe zu bekommen.

Die Modellevaluierung in Amazon Bedrock ermöglicht es Ihnen, automatische und menschliche Evaluierungen zu verwenden, um FMs für einen bestimmten Anwendungsfall auszuwählen. Die automatische Modellbewertung verwendet kuratierte Datensätze und bietet vordefinierte Metriken wie Genauigkeit, Robustheit und Toxizität. Für subjektive Metriken können Sie Amazon Bedrock verwenden, um mit wenigen Klicks einen menschlichen Bewertungs-Workflow einzurichten. Mit menschlichen Bewertungen können Sie Ihre eigenen Datensätze einbringen und benutzerdefinierte Kennzahlen wie Relevanz, Stil und Ausrichtung auf die Markenstimme definieren. Bei Workflows zur menschlichen Bewertung können Sie Ihre eigenen Mitarbeiter als Prüfer einsetzen oder Sie können ein von AWS verwaltetes Team mit der Durchführung der menschlichen Bewertung beauftragen, wobei AWS qualifizierte Gutachter anstellt und den gesamten Arbeitsablauf in Ihrem Namen verwaltet. Um mehr zu erfahren, lesen Sie den Blog.

Mit nur wenigen Klicks können Sie mit Amazon Bedrock von generischen Modellen zu Modellen wechseln, die speziell auf Ihr Unternehmen und Ihren Anwendungsfall zugeschnitten sind. Um ein FM an eine bestimmte Aufgabe anzupassen, können Sie eine Technik verwenden, die als „Fine-Tuning“ bezeichnet wird. Zeigen Sie einfach auf ein paar beschriftete Beispiele in Amazon S3 und Amazon Bedrock erstellt eine Kopie des Basismodells, trainiert es mit Ihren Daten und erstellt ein fein optimiertes Modell, auf das nur Sie Zugriff haben, sodass Sie maßgeschneiderte Antworten erhalten. Fine-Tuning ist verfügbar für die Modelle Command, Llama 2, Titan Text Lite und Express, Titan Image Generator und Titan Multimodal Embeddings. Eine zweite Möglichkeit zur Anpassung von Titan Text Lite und Express FMs in Amazon Bedrock ist das fortgesetzte Pre-Training, eine Technik, die Ihre nicht gekennzeichneten Datensätze verwendet, um die FM für Ihre Domäne oder Ihre Branche anzupassen. Sowohl beim Fine-Tuning als auch beim fortgesetzten Pre-Training erstellt Amazon Bedrock eine private, angepasste Kopie des Basis-FM für Sie, und Ihre Daten werden nicht zum Trainieren der ursprünglichen Basismodelle verwendet. Ihre Daten, die zur Anpassung der Modelle verwendet werden, werden sicher über Ihre Amazon Virtual Private Cloud (VPC) übertragen. Weitere Informationen erhalten Sie im Blog.

Verwenden Sie eine einzige API, um Schlussfolgerungen zu ziehen, unabhängig von dem von Ihnen gewählten Modell. Eine einzige API bietet die Flexibilität, verschiedene Modelle von verschiedenen Modellanbietern zu verwenden und mit minimalen Codeänderungen über die neuesten Modellversionen auf dem Laufenden zu bleiben.