Amazon Bedrock ahora es compatible con la API Rerank para mejorar la precisión de las aplicaciones de RAG

Publicado en: 1 de dic de 2024

Amazon Bedrock anuncia la compatibilidad con los modelos de cambio de clasificación a través de la API Rerank, lo que permite que los desarrolladores mejoren la relevancia de las respuestas en las aplicaciones de generación aumentada de recuperación (RAG). Los modelos de cambio de clasificación clasifican un conjunto de documentos recuperados en función de su relevancia para la consulta del usuario, lo que ayuda a priorizar el contenido más relevante con el objetivo de pasarlo a los modelos fundacionales (FM) para la generación de respuestas. Las bases de conocimiento de Amazon Bedrock ofrecen flujos de trabajo de RAG integrales y completamente administrados para crear aplicaciones de IA generativa personalizadas mediante la incorporación de información contextual de varios orígenes de datos. Para los usuarios de la base de conocimiento de Amazon Bedrock, el cambio de clasificación se habilita mediante una configuración disponible en las API Retrieve y RetrieveAndGenerate.

La búsqueda semántica en los sistemas de RAG puede mejorar la relevancia de la recuperación de documentos, pero es posible que tenga problemas con consultas complejas o ambiguas. Por ejemplo, un chatbot del servicio de atención al cliente al que se le pregunta acerca de la devolución de una compra en línea podría recuperar documentos sobre las políticas de devolución y las pautas de envío. Sin una clasificación adecuada, la respuesta generada podría centrarse en el envío en lugar de en las devoluciones, sin tener en cuenta la intención del usuario. Ahora, Amazon Bedrock ofrece acceso a modelos de cambio de clasificación que solucionarán este problema al reordenar los documentos recuperados en función de su relevancia para la consulta del usuario. Esto garantiza que la información más útil se envíe al modelo básico para la generación de respuestas, lo que optimiza el uso del período de contexto y, potencialmente, reduce los costos.

La API Rerank es compatible con los modelos Rerank 1.0 de Amazon y Rerank 3.5 de Cohere. Estos modelos están disponibles en el Oeste de EE. UU. (Oregón), Canadá (centro), Europa (Fráncfort) y Asia-Pacífico (Tokio).

Consulte la documentación del producto Amazon Bedrock. Para obtener más información sobre los precios, consulte la página de precios.