Generative KI-Modelle von Meta Llama 3.1 sind jetzt in Amazon Bedrock verfügbar

Veröffentlicht am: 23. Juli 2024

Die bisher fortschrittlichsten Lama-Modelle von Meta, Llama 3.1, sind jetzt in Amazon Bedrock verfügbar. Amazon Bedrock bietet eine anwendungsfertige Methode für die Erstellung generativer KI-Anwendungen mit Llama. Die Llama 3.1-Modelle sind eine Sammlung von Modellen in den Parametergrößen 8 B, 70 B und 405 B, die neue Funktionen für Ihre generativen KI-Anwendungen bieten.

Alle Llama 3.1-Modelle zeigen deutliche Verbesserungen gegenüber den Vorgängerversionen. Die Modelle unterstützen eine Kontextlänge von 128 KB, haben die 16-fache Kapazität von Llama 3 und besitzen verbesserte argumentative Fähigkeiten für mehrsprachige Dialoganwendungsfälle in acht Sprachen. Die Modelle greifen auf weitere Informationen aus längeren Texten zu, um Entscheidungen fundierter zu treffen und Kontextdaten umfassender zu nutzen, um subtilere und verfeinerte Antworten zu generieren. Llama 3.1 405B gehört laut Angaben von Meta zu den besten und größten öffentlich verfügbaren Basismodellen und eignet sich gut für die synthetische Datengenerierung und Modelldestillation. Außerdem bieten die Llama 3.1-Modelle modernste Funktionen in den Bereichen Allgemeinwissen, Mathematik, Toolnutzung und mehrsprachige Übersetzung.

Die Llama 3.1-Modelle von Meta sind in Amazon Bedrock in der Region USA West (Oregon) verfügbar. Weitere Informationen finden Sie im Launch-Blog von AWS News, auf der Produktseite von Llama in Amazon Bedrock und in der Dokumentation. Rufen Sie zum Einstieg in Llama 3.1 in Amazon Bedrock die Amazon-Bedrock-Konsole auf. Um Zugriff auf die Vorschauversion von Llama 3.1 405B in Amazon Bedrock zu beantragen, wenden Sie sich an Ihr AWS-Kundenteam oder reichen Sie über die AWS-Managementkonsole ein Support-Ticket ein. Wählen Sie bei der Erstellung des Support-Tickets „Bedrock“ als Service und „Models“ als Kategorie aus.