Publié le: Jul 18, 2023
À compter d'aujourd'hui, les modèles Llama 2 Foundation de Meta sont disponibles dans Amazon SageMaker JumpStart, un hub de machine learning (ML) qui propose des modèles préentraînés, des algorithmes intégrés et des solutions prédéfinies pour vous aider à démarrer rapidement avec le machine learning. Vous pouvez déployer et utiliser les modèles Llama 2 Foundation en quelques clics dans SageMaker Studio ou par programmation via le SDK Python de SageMaker.
Llama 2 est un modèle de langage autorégressif qui utilise une architecture de transformateur optimisée. Il est disponible dans une gamme de tailles de paramètres (7B, 13B et 70B) ainsi que dans des variations préentraînées et affinées. Les versions optimisées utilisent le réglage fin supervisé (SFT) et l'apprentissage par renforcement avec rétroaction humaine (RLHF) pour générer des réponses plus pertinentes. Les développeurs peuvent tirer parti du Guide d'utilisation responsable de Meta, qui décrit leurs meilleures pratiques pour créer de manière responsable chaque couche de la gamme d'un produit GenAI, et comprendre l'importance de gérer les risques associés à l'utilisation commerciale des LLM.
Vous pouvez désormais bénéficier des avantages combinés des performances de Llama 2 et des contrôles MLOps grâce aux fonctionnalités de SageMaker telles que SageMaker Pipelines, SageMaker Debugger ou les journaux de conteneurs. Le modèle sera déployé dans un environnement sécurisé AWS sous le contrôle de votre VPC, afin de garantir la sécurité des données. Llama 2 est destiné à un usage commercial et de recherche en anglais. Les modèles optimisés sont conçus pour le chat de type assistant, tandis que les modèles préentraînés peuvent être adaptés à diverses tâches de génération de langage naturel.
Les modèles Llama 2 Foundation sont disponibles dès aujourd'hui dans SageMaker JumpStart, dans un premier temps dans les régions us-east 1 et us-west 2. Veuillez mettre à niveau votre environnement SageMaker Studio vers la dernière version pour découvrir ces modèles. Pour commencer à utiliser les modèles Llama 2 Foundation via SageMaker JumpStart, consultez la documentation et le blog.