Guardrails für Amazon Bedrock kann jetzt mit jedem FM Halluzinationen erkennen und Apps schützen
Guardrails für Amazon Bedrock ermöglicht es Kunden, Schutzmaßnahmen zu implementieren, die auf ihren Anwendungsanforderungen und verantwortungsvollen KI-Richtlinien basieren. Guardrails wird heute um kontextabhängige Faktenchecks erweitert und führt eine neue ApplyGuardRail-API ein, mit der vertrauenswürdige generative KI-Anwendungen mithilfe eines beliebigen Basismodells (FM) erstellt werden können.
Kunden nutzen die FMs, um fundierte (glaubwürdige) Antworten zu generieren, die auf den Quelldaten des Unternehmens basieren. FMs neigen jedoch dazu, Daten aus verschiedenen Quellen zusammenführen, wodurch falsche oder neue Informationen entstehen, was sich auf die Zuverlässigkeit der Anwendung auswirkt. Mit kontextabhängigen Faktenchecks kann Guardrails jetzt Halluzinationen in den Modellantworten für RAG (Retrieval-Augmented Generation) und gesprächsorientierte Anwendungen erkennen. Diese Schutzmaßnahme hilft dabei, Antworten zu erkennen und zu filtern, die gemäß einer Referenzquelle sachlich falsch und daher für die Benutzeranfrage irrelevant sind. Kunden können Konfidenzschwellen konfigurieren, um Antworten mit geringem Wahrheitsgehalt oder geringer Relevanz zu filtern.
Zusätzlich zu den bereits von Amazon Bedrock unterstützten FMs unterstützt Guardrails jetzt eine ApplyGuardRail-API, um Benutzereingaben auszuwerten und Antworten für jedes benutzerdefinierte und Drittanbieter-FM zu modellieren. Die ApplyGuardRail-API bietet jetzt zentrale Sicherheit und Kontrolle für generative KI-Anwendungen.
Guardrails ist das einzige Angebot eines großen Cloud-Anbieters, das Sicherheit, Datenschutz und Wahrheitsüberprüfung in einer einzigen Lösung vereint. Der kontextbezogene Faktencheck und die ApplyGuardRail-API werden in allen AWS-Regionen unterstützt, in denen Guardrails für Amazon Bedrock unterstützt wird.
Weitere Informationen zu Guardrails für Amazon Bedrock finden Sie auf der Feature-Seite und im News-Blog.