Amazon Bedrock Guardrails kündigt Stufen für Inhaltsfilter und abgelehnte Themen an
Amazon Bedrock Guardrails kündigt Stufen für Inhaltsfilter und abgelehnte Themen an und bietet zusätzliche Flexibilität und Benutzerfreundlichkeit bei der Auswahl von Features sowie erweiterte Sprachunterstützung je nach Anwendungsfällen der Kunden. Mit einer neuen Standard-Stufe erkennt und filtert Guardrails jetzt unerwünschte Inhalte und bietet ein besseres Verständnis des Kontextes, einschließlich Änderungen wie Tippfehler, und unterstützt bis zu 60 Sprachen.
Bedrock Guardrails bietet konfigurierbare Schutzmaßnahmen, um schädliche Inhalte und Prompt-Angriffe zu erkennen und zu blockieren, bestimmte Themen auszuschließen oder abzulehnen und persönlich identifizierbare Informationen (PII) wie personenbezogene Daten aus Prompts und Modellantworten zu redigieren. Darüber hinaus hilft Bedrock Guardrails dabei, Modellhalluzinationen zu erkennen und zu blockieren und mithilfe von Automated-Reasoning-Prüfungen behauptete Fakten in Modellantworten zu erkennen, zu korrigieren und zu erklären. Guardrails können auf jedes Basismodell angewendet werden, einschließlich solcher, die mit Amazon Bedrock gehostet werden, auf selbst gehostete Modelle und Modelle von Drittanbietern außerhalb von Bedrock, die die ApplyGuardRail-API verwenden. Dies ermöglicht eine konsistente Benutzererfahrung und standardisiert die Sicherheits- und Datenschutzkontrollen.
Die neue Standardstufe verbessert die Schutzmaßnahmen für Inhaltsfilter und abgelehnte Themen innerhalb von Bedrock Guardrails, indem sie eine robustere Erkennung von Prompt- und Response-Variationen, einen besseren Schutz vor allen Kategorien von Inhaltsfiltern, einschließlich Prompt-Angriffen, und eine umfassendere Sprachunterstützung bietet. Der verbesserte Filter für Prompt-Angriffe unterscheidet deutlich zwischen Jailbreaks und Promptinjektion im Backend und schützt gleichzeitig vor anderen Bedrohungen, einschließlich Ausgabemanipulationen. Um auf die Funktionen der Standard-Stufe zugreifen zu können, müssen sich Kunden ausdrücklich für regionsübergreifende Inferenzen mit Bedrock Guardrails entscheiden.
Weitere Informationen finden Sie in der technischen Dokumentation und auf der Produktseite zu Bedrock Guardrails.