Publié le: Jun 9, 2023
À compter d'aujourd'hui, le modèle de base Falcon40B de pointe du Technology Innovation Institute (TII) est disponible sur Amazon SageMaker JumpStart, le hub de machine learning (ML) de SageMaker qui propose des modèles pré-entraînés, des algorithmes intégrés et des modèles de solutions prédéfinis pour vous aider à démarrer rapidement avec le ML. Vous pouvez déployer et utiliser ce FalconLLM en quelques clics dans SageMaker Studio ou par programmation via le SDK Python de SageMaker.
Falcon40B est un grand modèle de langage (LLM) de 40 milliards de paramètres disponible sous la licence Apache 2.0 qui s'est classé #1 dans le classement Hugging Face Open LLM, qui suit, classe et évalue les LLM sur la base de plusieurs critères de référence afin d'identifier les modèles les plus performants. Depuis sa sortie en mai 2023, le Falcon40B a démontré des performances exceptionnelles sans aucun réglage particulier. Pour permettre aux clients d'accéder plus facilement à ce modèle de pointe, AWS a mis le Falcon40B à la disposition des clients via Amazon SageMaker JumpStart. Les clients peuvent désormais déployer rapidement et facilement leur propre modèle Falcon40B et le personnaliser en fonction de leurs besoins spécifiques pour des applications telles que la traduction, la réponse à des questions et la synthèse d'informations.
Les Falcon40B sont généralement disponibles dès aujourd'hui via Amazon SageMaker JumpStart dans les régions suivantes : USA Est (Ohio), USA Est (Virginie du Nord), USA Ouest (Oregon), Asie-Pacifique (Tokyo), Asie-Pacifique (Séoul), Asie-Pacifique (Mumbai), Europe (Londres), Europe (Francfort), Europe (Irlande) et Canada (Centre). D'autres régions AWS seront bientôt disponibles dans d'autres régions AWS. Pour savoir comment utiliser cette nouvelle fonctionnalité, consultez la documentation JumpStart de SageMaker, le carnet d'exemples d'introduction à SageMaker JumpStart - Génération de texte avec FalconLLM et le blog Technology Innovation Institute développe le modèle de base FalconLLM 40B de pointe sur Amazon SageMaker.