Anthropic’s Claude 3 Haiku-Modell ist auf Amazon Bedrock verfügbar

von Channy Yun übersetzt durch David Surey

Anfang März kündigte Anthropic die Claude 3 Foundation Model Familie [EN, Extern] an. Diese umfasst drei Modelle: Claude 3 Haiku, das schnellste und kompakteste Modell für schnelle Reaktionsfähigkeit; Claude 3 Sonnet, ein ideal ausgewogenes Modell bezüglich Fähigkeiten und Geschwindigkeit; und Claude 3 Opus, das intelligenteste Angebot für Höchstleistungen bei hochkomplexen Aufgaben. AWS kündigte auch die allgemeine Verfügbarkeit von Claude 3 Sonnet in Amazon Bedrock [EN] an.

Im März 2024 kündigten wir die Verfügbarkeit von Claude 3 Haiku auf Amazon Bedrock an. Das Claude 3 Haiku Grundlagenmodell ist das schnellste und kompakteste Modell der Claude 3 Familie und wurde für schnelle Reaktionsfähigkeit und nahtlose generative KI-Erlebnisse, die menschliche Interaktionen nachahmen, entwickelt. Zum Beispiel kann es einen datenreichen Forschungsbericht auf arXiv (~10k Tokens) mit Diagrammen und Grafiken in weniger als drei Sekunden lesen.

Mit Claude 3 Haikus Verfügbarkeit auf Amazon Bedrock können Sie nahezu sofort reagierende generative KI-Anwendungen für Unternehmen erstellen, die schnelle und präzise gezielte Leistung benötigen. Wie Sonnet und Opus verfügt Haiku über Bild-zu-Text-Fähigkeiten, kann mehrere Sprachen neben Englisch verstehen und bietet eine verbesserte Steuerbarkeit in einem 200k-Kontext-Fenster

Anwendungsfälle für Claude 3 Haiku
Claude 3 Haiku ist intelligenter, schneller und kostengünstiger als andere Modelle in seiner Intelligenz-Klasse. Es beantwortet einfache Prompts mit unübertroffener Geschwindigkeit. Mit seiner hohen Geschwindigkeit und erhöhten Lenkbarkeit können Sie KI-Erlebnisse erstellen, die menschliche Interaktionen nahtlos nachahmen.

Hier sind einige Anwendungsfälle für die Verwendung von Claude 3 Haiku:

• Kundeninteraktionen: schnelle und genaue Unterstützung bei Live-Interaktionen, Übersetzungen
• Inhaltsmoderation: Erkennen von riskantem Verhalten oder Kundenanfragen
• Kostensparende Aufgaben: Optimierte Logistik, Bestandsmanagement, schnelle Wissensextraktion aus unstrukturierten Daten

Um mehr über die Funktionen und Fähigkeiten von Claude 3 Haiku zu erfahren, besuchen Sie Anthropic’s Claude auf Amazon Bedrock und Anthropic Claude Modelle [EN] Informationsseiten in der AWS-Dokumentation.

Claude 3 Haiku in Aktion
Wenn Sie neu bei der Verwendung von Anthropic-Modellen sind, gehen Sie zur Amazon Bedrock-Konsole und wählen Sie Modellzugriff im linken unteren Bereich. Fordern Sie separat Zugriff für Claude 3 Haiku an.

Um Claude 3 Haiku in der Konsole zu testen, wählen Sie Text oder Chat unter Playgrounds im linken Menübereich. Wählen Sie dann Modell auswählen und wählen Sie Anthropic als Kategorie und Claude 3 Haiku als Modell.

Um weitere Claude-Beispielanfragen zu testen, wählen Sie Beispiele laden. Sie können Beispiele anzeigen und ausführen, die speziell für Claude 3 Haiku entwickelt wurden. Zum Beispiel fortgeschrittene Fragen und Antworten mit Zitaten, Erstellung eines Designbriefings oder der Inhaltserstellung in anderen Sprachen als Englisch.

Mit dem Vergleichsmodus können Sie auch die Geschwindigkeit und Intelligenz zwischen Claude 3 Haiku und dem Claude 2.1-Modell anhand einer Beispielanfrage vergleichen. Beispielsweise um personalisierte E-Mail-Antworten zu generieren und damit Kundenfragen zu beantworten.

Durch Auswahl von API-Anfrage anzeigen erhalten Sie Code-Beispiele zur Nutzung mit dem AWS Command Line Interface (AWS CLI) und den AWS SDKs um das Modell auszuprobieren. Hier ist ein Beispiel für einen solchen AWS CLI-Befehl:

aws bedrock-runtime invoke-model \     
--model-id anthropic.claude-3-haiku-20240307-v1:0 \     
--body "{\"messages\":[{\"role\":\"user\",\"content\":[{\"type\":\"text\",\"text\":\"Write the test case for uploading the image to Amazon S3 bucket\\n\"}]}],\
"anthropic_version\":\"bedrock-2023-05-31\",\"max_tokens\":2000,\"temperature\":1,\"top_k\":250,\"top_p\":0.999,\"stop_sequences\":[\"\\n\\nHuman:\"]}" \     
--cli-binary-format raw-in-base64-out \     --region us-east-1 \     invoke-model-output.txt

Um eine API-Anfrage an Claude 3 zu senden, verwenden Sie das neue Anthropic Claude Messages API-Format [EN], dass auch komplexere Interaktionen wie Bildverarbeitung ermöglicht. Wenn Sie die Anthropic Claude Text Completions API [EN] verwenden, sollten Sie von der bestehenden Text Completions API aus upgraden [EN, Extern].

Hier ist ein Beispiel eines Python-Codes, um eine Message-API-Anfrage zu senden, die eine Bilddatei beschreibt:

def call_claude_haiku(base64_string):    prompt_config = {       
 "anthropic_version": "bedrock-2023-05-31",      
 "max_tokens": 4096, 
 "messages": [ 
   { "role": "user",
     "content": [
      { "type": "image",
        "source": { 
            "type": "base64",
            "media_type": "image/png", 
            "data": base64_string, 
            },
      },
   {"type": "text", "text": "Provide a caption for this image"},
        ], 
   }
   ],
  }    
  body = json.dumps(prompt_config)
  modelId = "anthropic.claude-3-haiku-20240307-v1:0"
  accept = "application/json"
  contentType = "application/json"
  response = bedrock_runtime.invoke_model(
             body=body, modelId=modelId, accept=accept, contentType=contentType    )    
  response_body = json.loads(response.get("body").read())    
  results = response_body.get("content")[0].get("text")    
return results

Um mehr Beispielcodes mit Claude 3 zu erfahren, sehen Sie sich Erste Schritte mit Claude 3 auf Amazon Bedrock [EN], Diagramme zu CDK/Terraform mit Claude 3 auf Amazon Bedrock [EN] und Cricket Match Winner Vorhersage mit Amazon Bedrocks Anthropic Claude 3 Sonnet [EN] in der Community.aws an.

Seit März 2024 verfügbar
Claude 3 Haiku ist neben den Regionen US East (us-east-1) und US West (us-west-2) auch in Paris (eu-west-3) und Asia Pacific (Sydney, ap-southeast-2) verfügbar, weitere Regionen folgen bald. Überprüfen Sie die vollständige Regionenliste [EN] für zukünftige Updates.

Claude 3 Haiku ist die kostengünstigste Wahl. Claude 3 Haiku ist dabei bis zu 68 Prozent günstiger pro 1.000 Eingabe-/Ausgabetokens als zum Beispiel Claude Instant und bietet dabei ein höheres Intelligenzlevel. Weitere Informationen finden Sie auf der Amazon Bedrock Preise-Informationswebseite.

Probieren Sie Claude 3 Haiku noch heute in der Amazon Bedrock-Konsole aus und senden Sie Feedback an AWS re:Post für Amazon Bedrock [EN] oder über Ihre üblichen AWS Support-Kontakte.

— Channy [Extern]

Über die Autoren

Channy Yun ist Principal Developer Advocate bei AWS und mit Leidenschaft dabei, Entwicklern zu helfen, moderne Anwendungen mit den neuesten AWS-Services zu erstellen. Als pragmatischer Entwickler und Blogger aus Überzeugung liebt er gemeinschaftsgetriebenes Lernen und Teilen von Technologie, was Entwickler zu globalen AWS-Usergroups geführt hat. Seine Hauptthemen sind Open-Source, Container, Speicher, Netzwerk & Sicherheit sowie IoT. Folgen Sie ihm auf Twitter unter @channyun.