Publié le: Nov 28, 2023
Aujourd'hui, nous annonçons la version préliminaire de Guardrails for Amazon Bedrock, qui permet aux clients de mettre en œuvre des mesures de protection dans tous les modèles de fondation (FM) en fonction de leurs cas d'utilisation et de leurs politiques d'IA responsables. Les clients peuvent créer plusieurs garde-corps adaptés à différents cas d'utilisation et les appliquer à plusieurs FM, offrant ainsi une expérience utilisateur cohérente et standardisant les contrôles de sécurité dans les applications d'IA génératives.
Les clients doivent protéger leurs applications d'IA génératives pour une expérience utilisateur pertinente et sûre. Bien que de nombreux FM disposent de protections intégrées pour filtrer les contenus indésirables et préjudiciables, les clients peuvent souhaiter personnaliser davantage les interactions en fonction de leurs cas d'utilisation et en respectant leurs politiques d'IA responsable. Par exemple, une banque peut souhaiter configurer son assistant en ligne de manière à ne pas fournir de conseils en investissement et à limiter les contenus préjudiciables. Grâce aux garde-fous, les clients peuvent définir un ensemble de sujets refusés qui ne sont pas souhaitables dans le contexte de leur application et configurer des seuils pour filtrer les contenus préjudiciables dans des catégories telles que la haine, les insultes, le contenu sexuel et la violence. Les garde-corps évaluent les requêtes des utilisateurs et les réponses FM par rapport aux sujets refusés et aux filtres de contenu, ce qui permet d'éviter que le contenu ne tombe dans des catégories restreintes. Cela permet aux clients de gérer de près les expériences utilisateur en fonction des exigences et des politiques spécifiques aux applications.
Les garde-corps sont pris en charge pour le contenu en anglais sur les FM textuels et les modèles affinés sur Amazon Bedrock ainsi que sur les agents pour Amazon Bedrock. Guardrails pour Amazon Bedrock est disponible en version préliminaire dans les régions USA Est (Virginie du Nord) et USA Ouest (Oregon).
Pour en savoir plus sur Guardrails pour Amazon Bedrock, rendez-vous sur la page des fonctionnalités.