El servicio de barreras de protección de Amazon Bedrock anuncia una nueva API dirigida a los flujos de trabajo de IA agéntica
El servicio de barreras de protección de Amazon Bedrock ahora ofrece la API InvokeGuardrailChecks, una nueva API sin recursos que le permite aplicar medidas de seguridad individuales en cualquier momento de sus aplicaciones de IA agéntica sin crear recursos de barrera de protección. La API proporciona un control detallado por solicitud sobre las medidas de seguridad que se deben ejecutar en cada paso del ciclo de agentes, y arroja puntuaciones numéricas de gravedad y confianza para que pueda implementar umbrales y acciones personalizados, ya sea para bloquear, aprobar, reintentar o registrar en función de sus requisitos específicos.
Las aplicaciones de IA agéntica funcionan a través de bucles iterativos: planifican tareas, llaman a herramientas, procesan los resultados y vuelven a iterar, mientras que a menudo ejecutan docenas de pasos para una sola solicitud. Cada paso conlleva un perfil de riesgo diferente, lo que hace que sea difícil escalar una barrera de protección única para todos los casos. La API InvokeGuardrailChecks soluciona este problema al operar en modo de solo detección, sin ID de barrera de protección que rastrear ni versiones que administrar. Usted especifica qué medidas de seguridad se deben ejecutar directamente en cada solicitud, lo que facilita agregar, eliminar o ajustar las comprobaciones a medida que evolucionan sus flujos de trabajo.
La API admite filtros de contenido (que detectan contenido dañino en todas las categorías, incluidas las relacionadas con el odio, la violencia, las relaciones sexuales, los insultos y la mala conducta), la detección de ataques de peticiones (identificando la evasión de restricciones, la inyección de peticiones y la filtración inmediata como comprobaciones independientes) y filtros de información confidencial (que detectan los tipos de entidades de PII compatibles). La detección de ataques de peticiones se expone como una medida de seguridad independiente, lo que le brinda la granularidad necesaria para invocar cada vector de ataque compatible de forma independiente.
La API InvokeGuardrailChecks ya está disponible en las siguientes regiones de AWS: este de EE. UU. (norte de Virginia), este de EE. UU. (Ohio), oeste de EE. UU. (Oregón), Europa (Londres), Europa (Estocolmo), Asia-Pacífico (Tokio) y Asia-Pacífico (Sídney).
Para obtener más información, consulte la documentación técnica de las barreras de protección de Amazon Bedrock.