Publié le: Apr 23, 2024
Aujourd'hui, nous annonçons la disponibilité générale de Guardrails pour Amazon Bedrock, qui permet aux clients de mettre en œuvre des mesures de protection dans les grands modèles de langage (LLM) en fonction de leurs cas d'utilisation et de politiques d'IA responsables. Les clients peuvent créer plusieurs barrières de protection adaptées à différents cas d'utilisation et les appliquer à plusieurs FM, ce qui permet de proposer une expérience utilisateur cohérente et de standardiser les contrôles de sécurité dans les applications d'IA générative.
Alors que de nombreux FM disposent de protections intégrées pour filtrer les contenus préjudiciables, les clients souhaitent personnaliser davantage les interactions afin de protéger leurs applications d'IA générative et garantir une expérience utilisateur pertinente et sûre. Guardrails fournit un ensemble complet de contrôles de sécurité et de confidentialité pour gérer les interactions des utilisateurs dans les applications d'IA générative. Tout d'abord, les clients peuvent définir un ensemble de sujets refusés qui ne sont pas souhaitables dans le contexte de leur application. Ensuite, ils peuvent configurer des seuils pour filtrer le contenu selon des catégories nuisibles telles que la haine, les insultes, la sexualité, la violence, les mauvaises conduites (y compris les activités criminelles) et les attaques par invite (jailbreak et injections d’invites). Troisièmement, les clients peuvent définir un ensemble de mots offensants et inappropriés à bloquer dans leur application. Enfin, les clients peuvent filtrer les entrées utilisateur contenant des informations sensibles (par exemple, des informations personnelles identifiables) ou supprimer des informations confidentielles dans des réponses modèles basées sur des cas d'utilisation.
Les barrières de protection Guardrails sont prises en charge pour le contenu en anglais sur tous les LLM et les modèles affinés sur Amazon Bedrock. Guardrails pour Amazon Bedrock est disponible dans les régions USA Est (Virginie du Nord) et USA Ouest (Oregon).
Pour en savoir plus sur Guardrails pour Amazon Bedrock, rendez-vous sur la page des fonctionnalités et consultez le blog News.