Amazon Bedrock Guardrails unterstützt jetzt regionsübergreifende Inferenz
Amazon Bedrock Guardrails kündigt die Unterstützung für regionsübergreifende Inferenz an, ein optionales Feature, das es Kunden ermöglicht, Datenverkehrsspitzen durch die Nutzung von Rechenleistung in verschiedenen AWS-Regionen besser abzufangen.
Bedrock Guardrails bietet konfigurierbare Schutzmaßnahmen, um schädliche Inhalte und Prompt-Angriffe zu erkennen und zu blockieren, bestimmte Themen auszuschließen oder abzulehnen und persönlich identifizierbare Informationen (PII) wie personenbezogene Daten aus Prompts und Modellantworten zu redigieren. Darüber hinaus hilft Bedrock Guardrails dabei, Modellhalluzinationen zu erkennen und zu blockieren und mithilfe von Automated-Reasoning-Prüfungen behauptete Fakten in Modellantworten zu erkennen, zu korrigieren und zu erklären. Guardrails können auf jedes Basismodell angewendet werden, einschließlich solcher, die mit Amazon Bedrock gehostet werden, auf selbst gehostete Modelle und Modelle von Drittanbietern außerhalb von Bedrock, die die ApplyGuardRail-API verwenden. Dies ermöglicht eine konsistente Benutzererfahrung und standardisiert die Sicherheits- und Datenschutzkontrollen.
Durch die Verwendung regionsübergreifender Inferenz erreichen die Kunden von Amazon Bedrock Guardrails einen konsistenten Durchsatz und profitieren von verbesserter Resilienz bei Nachfragespitzen. Kunden, die sich für dieses Feature anmelden, müssen sich nicht mehr um die Vorhersage von Nachfrageschwankungen kümmern. Stattdessen leitet die regionsübergreifende Inferenz den Verkehr dynamisch über mehrere Regionen weiter und gewährleistet so eine optimale Verfügbarkeit für jede Anforderung und eine stabile Leistung in Zeiten hoher Auslastung.
Für die Verwendung regionsübergreifender Inferenz mit Amazon Bedrock Guardrails fallen keine zusätzlichen Routing-Kosten an. Die Liste der unterstützten Regionen finden Sie hier.
Weitere Informationen über das Feature und die ersten Schritte finden Sie in der technischen Dokumentation.