Le modèle Muse Spark Open est désormais disponible sur Amazon SageMaker JumpStart
Muse Spark Open de Meta est désormais disponible dans Amazon SageMaker JumpStart, élargissant ainsi le portefeuille de modèles de fondation proposés aux clients AWS. Ce modèle à poids ouvert optimisé pour le codage de Meta est spécialement conçu pour les flux de travail de codage agentiques, apportant un raisonnement en plusieurs étapes et des appels d’outils au génie logiciel d’entreprise sur l’infrastructure AWS.
Muse Spark Open est conçu pour les agents de codage de longue durée et les flux de travail d’ingénierie multimodaux. Construit sur une architecture de mélange d’experts (MoE) avec un total de 816 milliards de paramètres et 42 milliards actifs par jeton, il offre la capacité d’un très grand réseau tout en maintenant le calcul par jeton plus proche de celui d’un modèle dense beaucoup plus petit. Le modèle comporte une fenêtre contextuelle d’un million de jetons, ce qui lui permet d’ingérer l’intégralité d’un projet, y compris les dépendances, le code existant et des milliers de fichiers, sans diviser les tâches en plusieurs parties. Il accepte le texte, les images, les documents, l’audio et l’audio-vidéo en entrée et génère une sortie de texte. Formé à de véritables flux de travail de développement tels que des refactorisations multifichiers et de longues sessions de débogage, il planifie, agit, observe les résultats et s’auto-corrige sur de longs horizons plutôt que de faire appel à un seul outil. SageMaker JumpStart propose deux variantes : BF16 (Muse-Spark-Open-816B-A42B) et NVFP4 quantifié (Muse-Spark-Open-816B-A42B-NVFP4), la variante NVFP4 nécessitant environ un quart de la mémoire pour un déploiement rentable.
Avec SageMaker JumpStart, les clients peuvent déployer Muse Spark Open en quelques clics, le point de terminaison s’exécutant sur leur propre compte AWS pour un contrôle total sur le code source et les invites.
Pour commencer à utiliser ce modèle, accédez au catalogue de modèles SageMaker JumpStart dans la console SageMaker ou utilisez le kit SDK Python de SageMaker pour déployer le modèle sur votre compte AWS. Pour en savoir plus sur le déploiement et l’utilisation de modèles de fondation dans SageMaker JumpStart, consultez la documentation relative à Amazon SageMaker JumpStart.