Les modèles d'IA générative Llama 3.1 de Meta sont désormais disponibles dans Amazon SageMaker JumpStart
Les modèles Meta Llama les plus avancés et les plus performants à ce jour, Llama 3.1, sont désormais disponibles dans Amazon SageMaker JumpStart, un hub de machine learning (ML) qui propose des modèles préentraînés et des algorithmes intégrés pour vous aider à démarrer rapidement avec le ML. Vous pouvez déployer et utiliser les modèles Llama 3.1 en quelques clics dans SageMaker Studio ou par programmation via le SDK Python de SageMaker.
Les modèles Llama 3.1 présentent des améliorations significatives par rapport aux versions précédentes en raison de l'augmentation des données d'entraînement et de l'échelle. Les modèles prennent en charge une longueur de contexte de 128 000, soit une augmentation de 120 000 jetons par rapport à Llama 3. Les modèles Llama 3.1 ont une capacité 16 fois supérieure à celle des modèles Llama 3 et un raisonnement amélioré pour les cas d'utilisation du dialogue multilingue dans huit langues. Les modèles peuvent accéder à davantage d'informations à partir de longs passages de texte pour prendre des décisions plus éclairées et exploiter des données contextuelles plus riches pour générer des réponses plus précises. Selon Meta, Llama 3.1 405B est l'un des plus grands modèles de base accessibles au public et convient parfaitement à la génération de données synthétiques ainsi qu’à la distillation de modèles, qui peuvent toutes deux améliorer les modèles Llama plus petits. Pour utiliser des données synthétiques afin d'affiner les modèles, vous devez vous conformer à la licence de Meta. Lisez le CLUF pour en savoir plus. Tous les modèles Llama 3.1 offrent des fonctionnalités de pointe en matière de connaissances générales, de mathématiques, d'utilisation d'outils et de traduction multilingue.
Les modèles Llama 3.1 sont disponibles dès aujourd'hui dans SageMaker JumpStart dans les régions AWS USA Est (Ohio), USA Ouest (Oregon) et USA Est (Virginie du Nord). Pour commencer à utiliser les modèles Llama 3.1 via SageMaker JumpStart, consultez la documentation et le blog.