Veröffentlicht am: Jul 18, 2023
Ab heute sind die Llama-2-Grundlagenmodelle von Meta in Amazon SageMaker JumpStart verfügbar, einem Hub für Machine Learning (ML), der vortrainierte Modelle, integrierte Algorithmen und vorgefertigte Lösungen bietet, mit denen Sie im Handumdrehen mit ML beginnen können. Sie können Llama-2-Grundlagenmodelle mit wenigen Klicks in SageMaker Studio oder programmgesteuert über SageMaker Python SDK bereitstellen und verwenden.
Llama 2 ist ein autoregressives Sprachmodell, das eine optimierte Transformer-Architektur verwendet. Es ist in einer Reihe von Parametergrößen – 7B, 13B und 70B – sowie in vortrainierten und fein abgestimmten Varianten erhältlich. Die optimierten Versionen verwenden überwachte Feinabstimmung (SFT) und Reinforcement Learning mit menschlichem Feedback (RLHF), um relevantere Antworten zu generieren. Entwickler können den Responsible Use Guide (Leitfaden zur verantwortungsbewussten Nutzung) von Meta nutzen, in dem die bewährten Methoden für den verantwortungsbewussten Aufbau jeder Stack-Ebene eines GenAI-Produkts skizziert werden, und verstehen, wie wichtig es ist, Risiken im Zusammenhang mit der kommerziellen Nutzung von LLMs zu begegnen.
Sie können jetzt die kombinierten Vorteile der Llama-2-Leistung und der MLOps-Steuerelemente mit SageMaker-Features wie SageMaker Pipelines, SageMaker Debugger oder Container-Protokollen nutzen. Das Modell wird in einer sicheren AWS-Umgebung unter Ihrer VPC-Kontrolle bereitgestellt, um Datensicherheit zu gewährleisten. Llama 2 ist für kommerzielle und Forschungszwecke in englischer Sprache bestimmt. Optimierte Modelle sind für assistentenähnliche Chats vorgesehen, wohingegen vortrainierte Modelle für eine Vielzahl von Aufgaben zur Generierung natürlicher Sprache angepasst werden können.
Die Llama-2-Grundlagenmodelle sind heute in SageMaker JumpStart zunächst in den Regionen US-East 1 und US-West 2 verfügbar. Bitte aktualisieren Sie Ihre SageMaker-Studio-Umgebung auf die neueste Version, um diese Modelle zu entdecken. Informationen zu den ersten Schritten mit Llama-2-Grundlagenmodellen über SageMaker JumpStart finden Sie in der Dokumentation und im Blog.