Amazon Bedrock Guardrails prend désormais en charge l'inférence interrégionale
Amazon Bedrock Guardrails annonce la prise en charge de l'inférence interrégionale, une fonctionnalité optionnelle qui permet aux clients de gérer de manière fluide les pics de trafic en utilisant le calcul dans différentes régions AWS.
Bedrock Guardrails propose des barrières de protection configurables pour aider à détecter et bloquer les contenus néfastes et les attaques par invite, définir des rubriques à refuser et interdire des rubriques spécifiques. L’outil supprime également les données d’identification personnelle (PII) telles que les données personnelles provenant des invites de saisie et des modèles de réponses. De plus, Bedrock Guardrails aide à détecter et bloquer les hallucinations des modèles, ainsi qu’à identifier, corriger et expliquer les affirmations factuelles contenues dans les réponses des modèles à l'aide de vérifications du raisonnement automatisé. Les barrières de protection peuvent être appliqués à tous les modèles de base, y compris ceux hébergés par Amazon Bedrock, les modèles auto-hébergés et les modèles tiers en dehors de Bedrock à l'aide de l'API ApplyGuardrail, offrant une expérience utilisateur cohérente et aidant à normaliser les contrôles de sécurité et de confidentialité.
En utilisant l'inférence interrégionale, les clients d'Amazon Bedrock Guardrails pourront bénéficier d'un débit constant et d'une résilience accrue pendant les périodes de pic de demande. En s'inscrivant, les clients n'ont plus à consacrer du temps et des efforts à la prévision des fluctuations de la demande. Au contraire, l'inférence interrégionale achemine le trafic de manière dynamique entre plusieurs régions, garantissant une disponibilité optimale pour chaque demande et des performances plus fluides pendant les périodes de forte utilisation.
L'utilisation de l'inférence interrégionale avec Amazon Bedrock Guardrails n'entraîne aucun coût de routage supplémentaire. Vous trouverez ici la liste des régions prises en charge.
Pour en savoir plus sur cette fonctionnalité et savoir comment démarrer, consultez la documentation technique.