Amazon Bedrock Guardrails kündigt eine Erhöhung der Servicekontingentlimits an
Die standardmäßigen Servicekontingentlimits für Amazon Bedrock Guardrails werden erhöht. Dies ermöglicht es, Ihre generativen KI-Anwendungen für mehr Traffic zu skalieren. Bedrock Guardrails bietet konfigurierbare Schutzmechanismen, um unerwünschte und schädliche Inhalte aus verschiedenen Kategorien sowie Prompt-Angriffe herauszufiltern. Themenfilter ermöglichen es, bestimmte Themen zu filtern und zu sperren, es gibt Filter für vertrauliche Informationen zur Unkenntlichmachung personenbezogener Daten (PII), Wortfilter zum Blockieren bestimmter Wörter und Funktionen zur Erkennung von Modellhalluzinationen durch Erkennung der Basis und Relevanz der Modellantworten. Automated Reasoning ermöglicht es zudem, behauptete Fakten in Modellantworten zu identifizieren, zu korrigieren und zu erklären. Diese Richtlinien lassen sich an Ihre Anwendungsfälle und Richtlinien zur verantwortungsvollen KI-Nutzung anpassen. Guardrails können auf jedes Basismodell angewendet werden, einschließlich solcher, die mit Amazon Bedrock gehostet werden, auf selbst gehostete Modelle und Modelle von Drittanbietern, die die ApplyGuardRail-API verwenden. Dies ermöglicht eine konsistente Benutzererfahrung und standardisiert die Sicherheits- und Datenschutzkontrollen.
Ab heute können Sie mit Bedrock Guardrails Ihre generativen KI-Anwendungen für höhere Datenverkehrslasten skalieren. Das Servicekontingentlimit wird erhöht, sodass mehr Transaktionen pro Sekunde (TPS) und mehr Texteinheiten pro Sekunde (TUPS) verarbeitet werden können. Das neue Limit ermöglicht es, bis zu 50 Aufrufe pro Sekunde mithilfe der ApplyGuardRail-API zu verarbeiten, was einer zweifachen Erhöhung gegenüber dem vorherigen Limit von 25 Aufrufen pro Sekunde entspricht. Inhaltsfilter, Filter für vertrauliche Informationen und Wortfilter können jetzt bis zu 200 TUPS verarbeiten, was einer 8-fachen Erhöhung gegenüber den vorherigen Grenzwerten von 25 TUPS entspricht.
Die Limits sind in den AWS-Regionen USA Ost (Nord-Virginia) und USA West (Oregon) verfügbar.
Weitere Informationen finden Sie in der technischen Dokumentation und auf der Produktseite zu Bedrock Guardrails.