Les bases de connaissances Amazon Bedrock sont désormais compatibles avec Llama 3.1, 405B, 70B et 8B

Publié le: 29 août 2024

Les bases de connaissances d'Amazon Bedrock connectent de manière sécurisée les modèles de fondation (FM) aux sources de données internes de l'entreprise pour la génération à enrichissement contextuel (RAG) afin de fournir des réponses pertinentes, spécifiques au contexte et précises. Par ailleurs, la famille de modèles de fondation Llama 3.1 de Meta (405B, 70B et 8B) est généralement disponible dans les bases de connaissances.

Llama 3.1 est la prochaine génération de modèles de pointe de Meta, prenant en charge une longueur de contexte de 128 000 jetons (environ 96 000 mots ou 192 pages de matériel). Les modèles Llama 3.1 conviennent parfaitement aux tâches qui nécessitent un raisonnement complexe, des sorties rapides et une RAG. Llama 3.1 est pris en charge via l'API RetrieveAndGenerate entièrement gérée.

La base de connaissances Amazon Bedrock sur les modèles Llama 3.1 405B, 70B et 8B est désormais disponible pour tous dans la région AWS USA Ouest (Oregon). Pour en savoir plus, consultez le lancement du blog d'actualités AWS ainsi que la page Meta Llama sur Amazon Bedrock. Pour démarrer, consultez la documentation relative aux bases de connaissances d'Amazon Bedrock et visitez la console Amazon Bedrock.