NVIDIA Nemotron 3 Nano est désormais disponible sur Amazon Bedrock
Amazon Bedrock prend désormais en charge le modèle NVIDIA Nemotron 3 Nano 30B A3B, la dernière avancée de NVIDIA en matière de modélisation linguistique efficace, qui offre des performances de raisonnement élevées, une prise en charge native des appels d’outils et un traitement contextuel étendu avec une fenêtre contextuelle de 256 000 jetons. Ce modèle utilise une architecture hybride mixte d’experts (MoE) efficace pour garantir un débit plus élevé que ses prédécesseurs pour les charges de travail agentiques et de codage tout en conservant la profondeur de raisonnement d’un modèle plus grand. Avec des contrôles de raisonnement explicites et une précision accrue grâce à des techniques avancées d’apprentissage par renforcement et à une post-formation multi-environnements à grande échelle, ce modèle est idéal pour les entreprises, les start-ups et les développeurs individuels, qui créent des flux de travail multi-agents, des outils de productivité pour les développeurs, l’automatisation des processus et pour l’analyse du raisonnement scientifique et mathématique, entre autres.
NVIDIA Nemotron 3 Nano sur Amazon Bedrock est alimenté par Project Mantle, un nouveau moteur d’inférence distribué pour un modèle de machine learning à grande échelle utilisé sur Amazon Bedrock. Project Mantle simplifie et accélère l'intégration de nouveaux modèles sur Amazon Bedrock, fournit une inférence sans serveur hautement performante et fiable avec des contrôles de qualité de service sophistiqués, débloque des quotas de clients par défaut plus élevés grâce à une gestion automatisée des capacités et à des groupes unifiés, et fournit une compatibilité prête à l'emploi avec les spécifications de l'API OpenAI.
NVIDIA Nemotron 3 Nano est disponible dès aujourd’hui sur Amazon Bedrock dans les Régions AWS suivantes : USA Est (Virginie du Nord), USA Est (Ohio), USA Ouest (Oregon), Asie-Pacifique (Tokyo), Asie-Pacifique (Mumbai), Amérique du Sud (São Paulo), Europe (Londres) et Europe (Milan), et prend en charge les points de terminaison de service unifiés et compatibles avec les API OpenAI sur Amazon Bedrock. Pour en savoir plus et commencer, consultez la Console Amazon Bedrock ou consultez la documentation du service ici. Pour commencer à utiliser les points de terminaison de service compatibles avec l’API Amazon Bedrock OpenAI, consultez la documentation ici.