Generative KI-Modelle von Meta Llama 3.1 sind jetzt in Amazon SageMaker JumpStart verfügbar
Das bislang fortschrittlichste und leistungsfähigste Llama-Modell von Meta, Llama 3.1, ist jetzt in Amazon SageMaker JumpStart verfügbar, einem Machine-Learning-Hub, der vortrainierte Modelle und integrierte Algorithmen bietet, die Ihnen den Einstieg in Machine Learning (ML) erleichtern. Sie können Llama-3.1-Modelle mit wenigen Klicks in SageMaker Studio oder programmgesteuert über das SageMaker-Python-SDK bereitstellen und verwenden.
Die Llama 3.1-Modelle zeigen aufgrund der größeren Menge und des erweiterten Umfangs an Trainingsdaten erhebliche Verbesserungen gegenüber früheren Versionen. Die Modelle unterstützen eine Kontextlänge von 128 KB, was einer Steigerung von 120.000 Tokens gegenüber Llama 3 entspricht. Llama 3.1-Modelle haben die 16-fache Kapazität von Llama 3-Modellen und bieten verbessertes Reasoning bei mehrsprachigen Dialogen in acht Sprachen. Die Modelle können auf mehr Informationen aus langen Textpassagen zugreifen, um fundiertere Entscheidungen zu treffen, und umfassendere Kontextdaten nutzen, um genauere Antworten zu generieren. Laut Meta ist Llama 3.1 405B eines der größten öffentlich zugänglichen Basismodelle (FM) und eignet sich gut für die synthetische Datengenerierung und Modelldestillation, die jeweils kleinere Lama-Modelle verbessern können. Für die Verwendung synthetischer Daten zum Feintuning von Modellen müssen Sie die Lizenzbedingungen von Meta einhalten. Lesen Sie die EULA für weitere Informationen. Alle Llama 3.1-Modelle bieten modernste Funktionen in den Bereichen Allgemeinwissen, Mathematik, Toolgebrauch und mehrsprachige Übersetzung.
Llama 3.1-Modelle sind heute in SageMaker JumpStart in den AWS-Regionen USA Ost (Ohio), USA West (Oregon) und USA Ost (Nord-Virginia) verfügbar. Informationen zu den ersten Schritten mit Llama 3.1-Modellen in SageMaker JumpStart finden Sie in der Dokumentation und im Blog.