Amazon Bedrock prend désormais en charge les intégrations compressées depuis Cohere Embed
Amazon Bedrock prend désormais en charge les intégrations compressées (int8 et binaire) issues du modèle Cohere Embed, ce qui permet aux développeurs et aux entreprises de créer des applications d'IA générative plus efficaces sans compromettre les performances. Cohere Embed est l'un des principaux modèles d'intégration de texte. Il est le plus souvent utilisé pour alimenter les systèmes de génération à enrichissement contextuel (RAG) et de recherche sémantique.
Les intégrations de texte produites par le modèle Cohere Embed doivent être stockées dans une base de données dotée de fonctionnalités de recherche vectorielle, les coûts de stockage étant directement liés aux dimensions de la sortie d'intégration ainsi qu'à la précision du format numérique. Les techniques d'apprentissage des modèles sensibles à la compression de Cohere permettent au modèle de générer des intégrations au format binaire et au format de précision int8, dont la taille est nettement inférieure à celle du format de précision FP32 souvent utilisé, avec une dégradation de précision minimale. Les techniques d'apprentissage des modèles sensibles à la compression de Cohere permettent au modèle de générer des intégrations au format binaire et au format de précision int8, dont la taille est nettement inférieure à celle du format de précision FP32 souvent utilisé, avec une dégradation de précision minimale. Les intégrations compressées de Cohere vous permettent de créer des applications suffisamment efficaces pour être mises en production à grande échelle, accélérant ainsi votre stratégie d'IA pour soutenir vos employés et vos clients.
Les intégrations int8 et binaires de Cohere Embed sont désormais disponibles dans Amazon Bedrock dans toutes les régions AWS où le modèle Cohere Embed est disponible. Pour en savoir plus, consultez la page produit de Cohere dans Amazon Bedrock, la documentation et le blog de lancement de Cohere. Pour commencer à utiliser les modèles Cohere dans Amazon Bedrock, rendez-vous sur la console Amazon Bedrock.