Amazon Bedrock ora supporta l'API Rerank per migliorare la precisione delle applicazioni RAG
Amazon Bedrock integra il supporto per i modelli di reranker tramite l'API Rerank, consentendo agli sviluppatori di migliorare la pertinenza delle risposte nelle applicazioni Retrieval-Augmented Generation (RAG). Tali modelli ordinano un gruppo di documenti recuperati in base alla loro rilevanza per la query dell'utente, contribuendo ad assicurare che vengano selezionati i contenuti più pertinenti da inviare ai modelli di fondazione (FM) per la generazione della risposta. Knowledge Base per Amazon Bedrock offre flussi di lavoro RAG end-to-end completamente gestiti per creare applicazioni di IA generativa personalizzate integrando informazioni contestuali provenienti da varie origini dati. Gli utenti di Knowledge Base per Amazon Bedrock possono abilitare il reranker tramite un'impostazione disponibile nelle API Retrieve e RetrieveAndGenerate.
Sebbene la ricerca semantica nei sistemi RAG possa migliorare la rilevanza nel recupero dei documenti, potrebbe non essere efficace con query più complesse o ambigue. Ad esempio, un chatbot di assistenza clienti che riceve una domanda sulla restituzione di un acquisto online potrebbe recuperare documenti che trattano sia delle policy di restituzione che delle linee guida per la spedizione. Senza un'adeguata classificazione, la risposta generata potrebbe concentrarsi sulla spedizione anziché sui resi, rischiando di non rispondere correttamente all'intento dell'utente. Ora Amazon Bedrock fornisce l'accesso a modelli di reranking che risolvono questo problema riorganizzando i documenti recuperati in base alla loro rilevanza per la query dell'utente. In questo modo le informazioni più pertinenti vengono inviate al modello di fondazione per la generazione della risposta, ottimizzando l'uso del contesto e riducendo potenzialmente i costi.
L'API Rerank supporta i modelli Amazon Rerank 1.0 e Cohere Rerank 3.5 che sono disponibili nelle seguenti regioni AWS: Stati Uniti occidentali (Oregon), Canada (Centrale), Europa (Francoforte) e Asia Pacifico (Tokyo).
Per ulteriori informazioni consulta la documentazione del prodotto di Amazon Bedrock. Per informazioni dettagliate sui costi consulta la pagina dei prezzi.