Anthropic’s Claude 3 Sonnet Basismodell ist jetzt in Amazon Bedrock verfügbar

von Channy Yun übersetzt durch David Surey

Im September 2023 haben wir eine strategische Zusammenarbeit mit Anthropic [EN] bekannt gegeben, die unsere Technologien und Expertisen in sicherer generativer künstlicher Intelligenz (KI) zusammenbrachte, um die Entwicklung der Basismodelle von Anthropics Claude (FMs) zu beschleunigen und sie AWS-Kunden umfassend zugänglich zu machen. Sie können in Amazon Bedrock einen frühen Zugang zu einzigartigen Funktionen von Anthropics Claude-Modell erhalten, um Benutzererlebnisse neu zu gestalten, Ihre Unternehmen neu zu erfinden und Ihre Reisen zur generativen KI zu beschleunigen.

Im November 2023 stellte Amazon Bedrock den Zugriff auf Anthropics Claude 2.1 [EN] bereit, das Schlüsselfunktionen für den Aufbau generativer KI für Unternehmen liefert. Claude 2.1 umfasst ein Kontextfenster mit 200.000 Token, reduzierte Halluzinationsraten, verbesserte Genauigkeit bei langen Dokumenten, Systemprompts und ein Beta-Tool-Verwendungsfeature für Funktionsaufrufe und Workflow-Orchestrierung.

Heute kündigte Anthropic Claude 3 [EN, Extern] an, eine neue Familie von KI-Modellen der Spitzenklasse, die es Kunden ermöglicht, die genaue Kombination von Intelligenz, Geschwindigkeit und Kosten auszuwählen, die ihren Geschäftsanforderungen entspricht. Die drei Modelle in der Familie sind Claude 3 Haiku, das schnellste und kompakteste Modell für eine nahezu augenblickliche Reaktion, Claude 3 Sonnet, das ideale ausgewogene Modell zwischen Fähigkeiten und Geschwindigkeit, und Claude 3 Opus, das intelligenteste Angebot für die Spitzenleistung bei höchst komplexen Aufgaben.

Wir geben auch heute die Verfügbarkeit von Anthropics Claude 3 Sonnet in Amazon Bedrock bekannt, wobei Claude 3 Opus und Claude 3 Haiku in Kürze folgen werden. Für die überwiegende Mehrheit der Workloads ist das Claude 3 Sonnet-Modell doppelt so schnell wie Claude 2 und Claude 2.1, mit erhöhter Steuerbarkeit und neuen Bild-zu-Text-Vision-Funktionen.

Mit der Verfügbarkeit von Claude 3 Sonnet in Amazon Bedrock können Sie kosteneffektive generative KI-Anwendungen für Unternehmen erstellen, die Intelligenz, Zuverlässigkeit und Geschwindigkeit benötigen. Sie können jetzt Anthropics neuestes Modell, Claude 3 Sonnet, in der Amazon Bedrock-Konsole verwenden.

Einführung von Anthropics Claude 3 Sonnet
Hier sind einige wichtige Highlights zum neuen Claude 3 Sonnet-Modell in Amazon Bedrock:

2x höhere Geschwindigkeit – Claude 3 hat enorme Fortschritte bei der Geschwindigkeit gemacht. Für die überwiegende Mehrheit der Workloads ist es doppelt so schnell bei gleichem Intelligenzniveau wie Anthropics leistungsfähigste Modelle, Claude 2 und Claude 2.1. Diese Kombination aus Geschwindigkeit und Fähigkeiten macht Claude 3 Sonnet zur klaren Wahl für Aufgaben, die intelligente, schnelle Reaktionen erfordern, wie Wissensabruf oder Vertriebsautomatisierung. Dazu gehören Anwendungsfälle wie Inhaltsgenerierung, Klassifizierung, Datenauszug und Recherche sowie präzise Suche in Wissensdatenbanken.

Erhöhte Steuerbarkeit – Eine erhöhte Steuerbarkeit von KI-Systemen gibt Benutzern mehr Kontrolle über Ausgaben und liefert vorhersehbare, hochwertige Ergebnisse. Es ist deutlich unwahrscheinlicher, dass es sich weigert, Fragen zu beantworten, die an den Schutzmaßnahmen des Systems grenzen, um schädliche Ausgaben zu verhindern. Claude 3 Sonnet ist leichter zu steuern und besser darin, Anweisungen in gängigen strukturierten Ausgabeformaten wie JSON zu befolgen – was es für Entwickler einfacher macht, Unternehmens- und Grenzanwendungen zu erstellen. Dies ist besonders wichtig in Unternehmensanwendungsfällen wie autonomen Fahrzeugen, Gesundheits- und medizinischen Diagnosen und algorithmischen Entscheidungsfindungen in sensiblen Bereichen wie Finanzdienstleistungen.

Bild-zu-Text-Vision-Funktionen – Claude 3 bietet Vision-Funktionen, die Bilder verarbeiten und Textausgaben zurückgeben können. Es ist äußerst fähig bei der Analyse und dem Verständnis von Diagrammen, Graphen, technischen Zeichnungen, Berichten und anderen visuellen Vermögenswerten. Claude 3 Sonnet erreicht eine vergleichbare Leistung mit anderen Modellen der Spitzenklasse mit Bildverarbeitungsfähigkeiten, behält dabei aber einen deutlichen Geschwindigkeitsvorteil bei.

Erweiterte Sprachunterstützung – Claude 3 hat das Verständnis und die Beantwortung in anderen Sprachen als Englisch verbessert, wie z. B. Französisch, Japanisch und Spanisch. Diese erweiterte Sprachabdeckung ermöglicht es Claude 3 Sonnet, multinationale Unternehmen besser zu bedienen, die KI-Dienste in verschiedenen Geografien und Sprachen benötigen, sowie Unternehmen, die nuancierte Übersetzungsdienste erfordern. Claude 3 Sonnet ist auch stärker beim Coden und in der Mathematik, wie Anthropics Ergebnisse in Bewertungen wie Grundschulmathematikproblemen (GSM8K und Hendrycks) und Codex (HumanEval) zeigen.

Um mehr über die Funktionen und Fähigkeiten von Claude 3 Sonnet zu erfahren, besuchen Sie Anthropics Claude auf Amazon Bedrock und Anthropic Claude-Modell [EN] in der AWS-Dokumentation.

Erste Schritte mit Anthropics Claude 3 Sonnet in Amazon Bedrock
Wenn Sie zum ersten Mal Anthropic-Modelle verwenden, gehen Sie zur Amazon Bedrock-Konsole und wählen Sie Modellzugriff auf der linken unteren Leiste. Fordern Sie separaten Zugriff für Claude 3 Sonnet an.

Um Claude 3 Sonnet in der Konsole zu testen, wählen Sie Text oder Chat unter Spielplätze im linken Menübereich. Wählen Sie dann Modell auswählen und wählen Sie Anthropic als Kategorie und Claude 3 Sonnet als Modell.

Um weitere Claude-Beispielaufforderungen zu testen, wählen Sie Beispiele laden. Sie können Claude 3-spezifische Beispiele anzeigen und ausführen, z. B. erweiterte Fragen und Antworten mit Zitaten, die Erstellung eines Design-Briefings und die Generierung von Inhalten in anderen Sprachen als Englisch.

Indem Sie API-Anforderung anzeigen auswählen, können Sie auch über Codebeispiele in der AWS-Befehlszeilenschnittstelle (AWS CLI) und AWS SDKs auf das Modell zugreifen. Hier ist ein Beispiel für den AWS CLI-Befehl:

aws bedrock-runtime invoke-model \   --model-id anthropic.claude-3-sonnet-20240229-v1:0 \   --body "{\"messages\":[{\"role\":\"user\",\"content\":[{\"type\":\"text\",\"text\":\"Write the test case for uploading the image to Amazon S3 bucket\\nCertainly! Here's an example of a test case for uploading an image to an Amazon S3 bucket using a testing framework like JUnit or TestNG for Java:\\n\\n...."}]}],\"anthropic_version\":\"bedrock-2023-05-31\",\"max_tokens\":2000}" \   --cli-binary-format raw-in-base64-out \   --region us-east-1 \   invoke-model-output.txt

Laden Sie Ihr Bild hoch, wenn Sie Bild-zu-Text-Vision-Funktionen testen möchten. Ich habe das Titelbild dieses Blog-Beitrags hochgeladen und eine detaillierte Beschreibung dieses Bildes erhalten.

Sie können Bilder über die API verarbeiten und Textausgaben in Englisch und mehreren anderen Sprachen zurückgeben.

{  "modelId": "anthropic.claude-3-sonnet-v1:0",  "contentType": "application/json",  "accept": "application/json",  "body": {    "anthropic_version": "bedrock-2023-05-31",    "max_tokens": 1000,    "system": "Please respond only in Spanish.",    "messages": [     {      "role": "user",      "content": [        {          "type": "image",          "source": {            "type": "base64",            "media_type": "image/jpeg",            "data": "iVBORw..."          }        },        {          "type": "text",          "text": "What's in this image?"        }      ]    }   ]  }}

Um diesen Start zu feiern, spricht Neerav Kingsland [Extern], Leiter Global Accounts bei Anthropic, über die Kraft der Partnerschaft zwischen Anthropic und AWS.

„Anthropic ist im Kern ein Forschungsunternehmen, das versucht, die sichersten großen Sprachmodelle der Welt zu erstellen, und durch Amazon Bedrock haben wir die Möglichkeit, diese Technologie globalen Nutzern zur Verfügung zu stellen und dies auf extrem sichere und datensichere Weise zu tun.“

Jetzt verfügbar
Claude 3 Sonnet ist ab heute in den Regionen US Ost (N. Virginia) und US West (Oregon) verfügbar. Überprüfen Sie die vollständige Regionsliste [EN] für zukünftige Updates. Die Verfügbarkeit von Anthropics Claude 3 Opus und Haiku in Amazon Bedrock wird ebenfalls bald kommen.

Für Modellabfragen und Anpassungen werden Ihnen Gebühren für die On-Demand- und Batch-Modi berechnet, mit denen Sie FMs nutzen können, ohne Zeitverpflichtungen eingehen zu müssen. Mit der Presigestaltungsoption „Bereitgestellter Durchsatz” können Sie Modelleinheiten für ein bestimmtes Basis- oder benutzerdefiniertes Modell erwerben. Weitere Informationen finden Sie unter Amazon Bedrock Preise.

Testen Sie Anthropics Claude 3 Sonnet heute in der Amazon Bedrock-Konsole und senden Sie Feedback an AWS re:Post für Amazon Bedrock [EN] oder über Ihre üblichen AWS-Support-Kontakte.

— Channy

Über die Autoren

Channy Yun ist Principal Developer Advocate bei AWS und mit Leidenschaft dabei, Entwicklern zu helfen, moderne Anwendungen mit den neuesten AWS-Services zu erstellen. Als pragmatischer Entwickler und Blogger aus Überzeugung liebt er gemeinschaftsgetriebenes Lernen und Teilen von Technologie, was Entwickler zu globalen AWS-Usergroups geführt hat. Seine Hauptthemen sind Open-Source, Container, Speicher, Netzwerk & Sicherheit sowie IoT. Folgen Sie ihm auf Twitter unter @channyun.