Amazon Bedrock prend désormais en charge l'API Rerank pour améliorer la précision des applications RAG

Publié le: 1 déc. 2024

Amazon Bedrock annonce la prise en charge des modèles de reclassement via l'API Rerank, permettant aux développeurs d'améliorer la pertinence des réponses dans les applications de génération à enrichissement contextuel (RAG, Retrieval-Augmented Generation). Les modèles de reclassement classent un ensemble de documents récupérés en fonction de leur pertinence par rapport à la requête de l'utilisateur, ce qui permet de hiérarchiser le contenu le plus pertinent à transmettre aux modèles de fondation (FM) pour la génération de réponses. Amazon Bedrock Knowledge Bases propose des flux de travail RAG de bout en bout entièrement gérés pour créer des applications d'IA générative personnalisées en incorporant des informations contextuelles provenant de différentes sources de données. Pour les utilisateurs d’Amazon Bedrock Knowledge Base, l'activation du reclassement se fait via un paramètre disponible dans les API Retrieve et RetrieveAndGenerate.

La recherche sémantique dans les systèmes RAG peut améliorer la pertinence de la recherche de documents, mais peut présenter des difficultés pour les requêtes complexes ou ambiguës. Par exemple, un chatbot du service client interrogé sur le retour d'un achat en ligne peut récupérer des documents sur les stratégies de retour et les directives d'expédition. Sans classement approprié, la réponse générée pourrait se concentrer sur l'expédition plutôt que sur les retours, sans tenir compte de l'intention de l'utilisateur. Amazon Bedrock donne désormais accès à des modèles de reclassement qui permettront de résoudre ce problème en réorganisant les documents récupérés en fonction de leur pertinence par rapport à la requête de l'utilisateur. Cela garantit que les informations les plus utiles sont envoyées au modèle de fondation pour la génération de réponses, l'optimisation de l'utilisation de la fenêtre contextuelle, ainsi que la réduction potentielle des coûts.

L'API Rerank prend en charge les modèles Amazon Rerank 1et Cohere Rerank 3.5. Ces modèles sont disponibles dans les régions USA Ouest (Oregon), Canada (centre), Europe (Francfort) et Asie-Pacifique (Tokyo).

Consultez la documentation produit d’Amazon Bedrock. Pour en savoir plus sur la tarification, consultez la page de tarification.