Les modèles langcache-embed-v3-small, Mellum2-12B-A2.5B-Thinking et LightOnOCR-2-1B sont désormais disponibles sur Amazon SageMaker JumpStart
Les modèles langcache-embed-v3-small de Redis, Mellum2-12B-A2.5B-Thinking de JetBrains et LightOnOCR-2-1B de LightOn sont désormais disponibles sur Amazon SageMaker JumpStart, élargissant ainsi le portefeuille de modèles de base proposés aux clients AWS. Ces trois modèles apportent des fonctionnalités spécialisées couvrant l’optimisation de la mise en cache sémantique, le raisonnement axé sur le code et l’OCR des documents de bout en bout, permettant aux clients de déployer des solutions d’IA évolutives et performantes sur l’infrastructure AWS.
langcache-embed-v3-small est optimisé pour la mise en cache sémantique dans les applications LLM. Il mappe les phrases et les paragraphes dans un espace vectoriel dense spécialement conçu pour identifier les requêtes sémantiquement équivalentes, quelle que soit leur formulation, permettant ainsi des accès intelligents au cache qui réduisent les appels LLM redondants et accélèrent les temps de réponse dans les charges de travail d’inférence à volume élevé.
Mellum2-12B-A2.5B-Thinking excelle dans la génération de code, le débogage, le raisonnement en plusieurs étapes et les flux de travail de codage agentiques. Il utilise une architecture mixte d’experts (64 experts, 8 activés par jeton), activant seulement 2.5B de ses paramètres 12B au total par passe avant avec une longueur de contexte de 131 072 jetons. Il émet des traces explicites de raisonnement en chaîne de pensée avant les réponses finales, fournissant ainsi une inférence à haut débit et à faible latence, idéale pour le routage, la RAG, les sous-agents et les déploiements privés.
LightOnOCR-2-1B permet une conversion multilingue de bout en bout de documents en texte pour les PDF, les numérisations et les images sans processus d’OCR fragiles. Ce modèle de langage de vision à paramètre 1B transforme directement les images des pages en texte net et naturellement ordonné, offrant des performances de pointe sur OlmOCR-Bench tout en étant environ 9 fois plus petit et nettement plus rapide que les approches concurrentes.
Avec SageMaker JumpStart, les clients peuvent déployer n’importe lequel de ces modèles en quelques clics pour répondre à leurs cas d’utilisation spécifiques de l’IA.
Pour commencer à utiliser ces modèles, accédez au catalogue de modèles SageMaker JumpStart dans la console SageMaker ou utilisez le kit SDK Python de SageMaker pour déployer les modèles sur votre compte AWS. Pour en savoir plus sur le déploiement et l’utilisation de modèles de base dans SageMaker JumpStart, consultez la documentation relative à Amazon SageMaker JumpStart.