Veröffentlicht am: Nov 28, 2023
Heute kündigen wir die Vorschauversion von Guardrails for Amazon Bedrock an, mit der Kunden Schutzmaßnahmen in allen Stiftungsmodellen (FMs) implementieren können, die auf ihren Anwendungsfällen und verantwortungsvollen KI-Richtlinien basieren. Kunden können mehrere Integritätsschutzmaßnahmen erstellen, die auf unterschiedliche Anwendungsfälle zugeschnitten sind, und sie auf mehrere FMs anwenden, um eine konsistente Benutzererfahrung zu gewährleisten und die Sicherheitskontrollen für alle generativen KI-Anwendungen zu standardisieren.
Kunden müssen ihre generativen KI-Anwendungen schützen, um ein relevantes und sicheres Benutzererlebnis zu gewährleisten. Viele FMs verfügen zwar über integrierte Schutzmaßnahmen zum Filtern unerwünschter und schädlicher Inhalte, aber Kunden möchten die Interaktionen möglicherweise weiter auf ihre Anwendungsfälle zuschneiden und ihre Richtlinien für verantwortungsvolle KI einhalten. Beispielsweise könnte eine Bank ihren Online-Assistenten so konfigurieren, dass er keine Anlageberatung anbietet und schädliche Inhalte begrenzt. Mit Integritätsschutzmaßnahmen können Kunden eine Reihe von abgelehnten Themen definieren, die im Kontext ihrer Anwendung unerwünscht sind, und Schwellenwerte konfigurieren, um schädliche Inhalte nach Kategorien wie Hass, Beleidigung, Sexualität und Gewalt herauszufiltern. Guardrails bewerten Nutzeranfragen und FM-Antworten anhand der abgelehnten Themen und Inhaltsfilter und tragen so dazu bei, Inhalte zu verhindern, die in eingeschränkte Kategorien fallen. Auf diese Weise können Kunden die Benutzererlebnisse auf der Grundlage anwendungsspezifischer Anforderungen und Richtlinien genau verwalten.
Integritätsschutzmaßnahmen werden für englische Inhalte in textbasierten FMs und fein abgestimmte Modelle auf Amazon Bedrock sowie Agents for Amazon Bedrock unterstützt. Guardrails für Amazon Bedrock ist in den Regionen USA Ost (Nord-Virginia) und USA West (Oregon) als Vorschauversion verfügbar.
Weitere Informationen zu Guardrails für Amazon Bedrock finden Sie auf der Feature-Seite.