Publicado en: Nov 9, 2023
Amazon Comprehend anunció nuevas características basadas en texto para ayudar a las organizaciones a mejorar la confianza y la seguridad del contenido. Amazon Comprehend es un servicio de procesamiento de lenguaje natural (NLP) que proporciona API preentrenadas y personalizadas para obtener información a partir de datos en formato de texto. Con las nuevas características de detección de toxicidad y clasificación rápida de seguridad, los clientes ahora pueden aplicar barreras de protección para moderar el contenido generado por los usuarios y las máquinas.
En la actualidad, las organizaciones necesitan gestionar el contenido generado tanto por las aplicaciones de IA generativa como por los usuarios en línea a través de chats, comentarios y foros de debate. Los usuarios con intenciones malintencionadas pueden generar contenido o solicitar modelos de IA generativa que creen contenido con lenguaje tóxico y datos confidenciales. Para ayudar a garantizar la seguridad de los usuarios, las organizaciones deben moderar este contenido de forma rápida e inteligente. A partir de hoy, las organizaciones pueden utilizar las características de detección de toxicidad y clasificación rápida de seguridad de Comprehend para moderar el contenido basado en texto de una manera sensible, escalable y rentable.
La detección de toxicidad es una función basada en el NLP que identifica el contenido tóxico al clasificar el texto en siete categorías, que incluyen acoso sexual, incitación al odio, amenazas, abuso, blasfemias, insultos y gráficos. El clasificador rápido de seguridad marca las indicaciones inseguras para evitar el uso inadecuado de las aplicaciones de IA generativa. Ambas API proporcionan puntuaciones de confianza que se pueden utilizar para redactar automáticamente contenido inadecuado utilizando un umbral establecido o para aumentar los flujos de trabajo de moderación humana.
Ambas API admiten el idioma inglés y están disponibles en las regiones Este de EE. UU. (Norte de Virginia), Oeste de EE. UU. (Oregón), Europa (Irlanda) y Asia-Pacífico (Sídney). Los clientes pueden acceder a estas características mediante la CLI y los SDK de AWS. Para empezar, visite la documentación sobre las características de confianza y seguridad de Amazon Comprehend.