Les modèles Gemma-4-31B-it-assistant et Gemma-4-31B-IT-NVFP4 sont désormais disponibles sur Amazon SageMaker JumpStart
Les modèles Gemma-4-31B-it-assistant de Google DeepMind et Gemma-4-31B-IT-NVFP4 de NVIDIA sont désormais disponibles sur Amazon SageMaker JumpStart, élargissant ainsi le portefeuille de modèles de fondation proposés aux clients AWS. Ces deux modèles intègrent l'architecture dense phare Gemma 4-31B aux charges de travail des entreprises, à la fois dans des variantes quantifiées de haute précision et optimisées, permettant aux clients de déployer des solutions d'IA mises à l’échelle et performantes sur l'infrastructure AWS.
Ces modèles répondent aux différents défis de l’IA d’entreprise grâce à des fonctionnalités spécialisées :
Le GEMMA-4-31B-it-assistant est conçu pour le raisonnement multimodal, le codage et les flux de travail agentiques en tant que variante optimisée par l'assistant du modèle dense 31B phare de Google. Il gère les entrées de texte et d'image (y compris les vidéos sous forme de séquences d'images) et génère une sortie de texte, avec une fenêtre contextuelle de 256 000 jetons et une prise en charge de plus de 140 langues. Classé no 3 parmi les modèles ouverts dans le classement textuel d'Arena AI, devançant les modèles 20 fois supérieurs à sa taille, il est doté d'un mécanisme d'attention hybride mêlant une fenêtre coulissante locale et une attention globale totale avec une fonction native appelant à créer des agents autonomes.
Le GEMMA-4-31B-IT-NVFP4 offre les mêmes fonctionnalités que le Gemma 4-31B à une fraction de l'empreinte mémoire. Quantifié avec le framework ModelOpt de NVIDIA avec une précision FP4 4 bits, il réduit l'utilisation de la mémoire à environ 18,5 Go (68 % de moins que le modèle de base) et permet une inférence environ 2,5 fois plus rapide tout en conservant 97 à 99 % de la qualité du modèle d'origine. Idéal pour les déploiements de production rentables et à haut débit sur les GPU NVIDIA RTX, DGX Spark et les centres de données.
Avec SageMaker JumpStart, les clients peuvent déployer n’importe lequel de ces modèles en quelques clics pour répondre à leurs cas d’utilisation spécifiques de l’IA.
Pour commencer à utiliser ces modèles, accédez au catalogue de modèles SageMaker JumpStart dans la console SageMaker ou utilisez le kit SDK Python de SageMaker pour déployer les modèles sur votre compte AWS. Pour en savoir plus sur le déploiement et l’utilisation de modèles de base dans SageMaker JumpStart, consultez la documentation relative à Amazon SageMaker JumpStart.