Publié le: Nov 13, 2023
Vous pouvez désormais accéder au modèle Llama 2 Chat (13B) de Meta dans Amazon Bedrock. Les modèles Llama 2 sont des grands modèles de langage (LLM) de nouvelle génération fournis par Meta. Amazon Bedrock est un service entièrement géré qui propose un choix de modèles de fondation performants issus de grandes entreprises œuvrant dans l'IA, comme Meta, ainsi qu'un large éventail de fonctionnalités qui vous permettent de créer et faire évoluer facilement des applications d'IA génératives à l'aide de modèles de fondation.
Avec ce lancement, Amazon Bedrock est le premier service de cloud public à proposer une API entièrement gérée pour Llama 2. Désormais, les entreprises peuvent accéder au modèle Llama 2 Chat 13B dans Amazon Bedrock sans avoir à gérer l'infrastructure sous-jacente, ce qui offre un choix encore plus large lorsqu'il s'agit de développer des applications d'IA génératives. Llama Chat est optimisé pour les cas d'utilisation des dialogues. Il a été testé par Meta pour identifier les écarts de performance et atténuer les réponses potentiellement problématiques dans les cas d'utilisation du chat, telles que les réponses inappropriées. Vous pouvez désormais intégrer le modèle Llama 2 Chat 13B dans vos applications écrites dans n'importe quel langage de programmation en appelant l'API Amazon Bedrock ou en utilisant les kits SDK AWS ou l'interface de ligne de commande AWS (AWS CLI).
Le modèle Llama 2 Chat 13B de Meta dans Amazon Bedrock est disponible sous forme d'options de débit à la demande et provisionné dans les régions AWS USA Est (Virginie du Nord) et USA Ouest (Oregon). Pour en savoir plus, consultez le blog de lancement d'AWS News, la page produit de Llama 2 sur Amazon Bedrock et la documentation. Pour commencer à utiliser Llama 2 dans Amazon Bedrock, rendez-vous sur la console Amazon Bedrock.