Amazon Bedrock Guardrails kündigt richtlinienbasierte Durchsetzung verantwortungsvoller KI an
Amazon Bedrock Guardrails kündigt Funktionen zur richtlinienbasierten Durchsetzung von Identitäts- und Zugriffsmanagement (IAM) an, um im großem Maßstab sichere, generative KI-Anwendungen zu entwickeln. Dieses neue Feature ermöglicht es Kunden, spezifische Leitlinien für Modellinferenzaufrufe vorzugeben, um sicherzustellen, dass bei allen KI-Interaktionen verantwortungsvolle KI-Richtlinien Anwendung finden. Bedrock Guardrails bietet konfigurierbare Schutzmechanismen, um unerwünschte Inhalte zu erkennen und herauszufiltern. Themenfilter ermöglichen es, bestimmte Themen zu filtern und zu sperren, es gibt Filter für vertrauliche Informationen zur Unkenntlichmachung persönlich identifizierbarer Informationen (PII), Wortfilter zum Blockieren bestimmter Wörter und Funktionen zur Erkennung von Modellhalluzinationen durch Erkennung der Basis und Relevanz der Modellantworten. Automated-Reasoning-Prüfungen ermöglichen es zudem, behauptete Fakten in Modellantworten zu identifizieren, zu korrigieren und zu erklären. Guardrails können auf jedes Basismodell angewendet werden, einschließlich solcher, die mit Amazon Bedrock gehostet werden, auf selbst gehostete Modelle und Modelle von Drittanbietern außerhalb von Bedrock, die die ApplyGuardRail-API verwenden. Dies ermöglicht eine konsistente Benutzererfahrung und standardisiert die Sicherheits- und Datenschutzkontrollen.
Ab heute bietet Bedrock Guardrails einen neuen Bedingungsschlüssel bedrock:GuardrailIdentifier, der in IAM-Richtlinien verwendet werden kann, um die Verwendung bestimmter Leitlinien mit zugehörigen Richtlinien durchzusetzen. Dieser neue Bedingungsschlüssel kann auf alle Bedrock Invoke- und Converse-APIs angewendet werden. Wenn die in Ihrer IAM-Richtlinie konfigurierte Leitlinie nicht mit der angegebenen Leitlinie übereinstimmt, wird die Anfrage abgelehnt, wodurch die Einhaltung der Richtlinien für verantwortungsvolle KI der Organisation gewährleistet wird.
Die richtlinienbasierte Durchsetzung von IAM-Richtlinien zur Einhaltung verantwortungsvoller KI-Richtlinien ist jetzt in allen AWS-Regionen verfügbar, in denen Bedrock Guardrails unterstützt wird.
Weitere Informationen finden Sie in der technischen Dokumentation und auf der Produktseite zu Bedrock Guardrails.