Amazon Bedrock unterstützt jetzt die Rerank API, um die Genauigkeit von RAG-Anwendungen zu verbessern
Amazon Bedrock kündigt die Unterstützung von Reranker-Modellen über die Rerank API an. Entwickler können damit die Relevanz von Antworten in RAG-Anwendungen (Retrieval-Augmented Generation) verbessern. Reranker-Modelle ordnen abgerufene Dokumente nach ihrer Relevanz für die Benutzeranfrage ein und helfen dabei, die relevantesten Inhalte zu priorisieren, die zur Antwortgenerierung an die Basismodelle (FMs) übergeben werden. Amazon-Bedrock-Wissensdatenbanken bietet vollständig verwaltete, durchgängige RAG-Workflows zur Erstellung benutzerdefinierter generativer KI-Anwendungen, indem Kontextinformationen aus verschiedenen Datenquellen integriert werden. Benutzer der Amazon-Bedrock-Wissensdatenbanken aktivieren den Reranker über eine Einstellung in den APIs Retrieve und RetrieveAndGenerate.
Die semantische Suche in RAG-Systemen kann die Relevanz der Dokumentabfrage verbessern, hat jedoch möglicherweise Probleme mit komplexen oder mehrdeutigen Abfragen. Zum Beispiel könnte ein Kundenservice-Chatbot, der nach der Rückgabe einer Online-Bestellung gefragt wird, Dokumente zu den Rückgabebestimmungen oder die Versandrichtlinien abrufen. Ohne korrektes Ranking könnte sich die generierte Antwort auf den Versand statt auf die Rücksendung konzentrieren und somit die Absicht des Benutzers verfehlen. Amazon Bedrock unterstützt jetzt Reranking-Modelle, mit denen dieses Problem gelöst wird, indem abgerufene Dokumente entsprechend ihrer Relevanz für die Benutzerabfrage geordnet werden. Dadurch wird sichergestellt, dass die nützlichsten Informationen zur Antwortgenerierung an das Basismodell (FM) gesendet werden, wodurch die Nutzung des Kontextfensters optimiert und potenziell auch die Kosten gesenkt werden.
Die Rerank API unterstützt die Modelle Amazon Rerank 1.0 und Cohere Rerank 3.5. Die Modelle sind in den Regionen USA West (Oregon), Kanada (Zentral), Europa (Frankfurt) und Asien-Pazifik (Tokio) verfügbar.
Mehr erfahren Sie in der Produktdokumentation zu Amazon Bedrock. Einzelheiten zur Preisgestaltung finden Sie auf der Preisseite.