Publicado en: Nov 16, 2021
La moderación de contenidos de Amazon Rekognition es una característica basada en el aprendizaje profundo que permite detectar imágenes y vídeos inapropiados, no deseados u ofensivos, facilitando la búsqueda y eliminación de estos contenidos a escala. Amazon Rekognition proporciona una clasificación detallada a través de 35 subcategorías y 10 categorías de moderación de nivel superior. Desde hoy, la moderación de contenidos de Amazon Rekognition cuenta con un modelo mejorado para la moderación de imágenes que reduce significativamente las tasas de falsos positivos en todas las categorías de moderación, en particular la de “desnudos explícitos”, sin que se reduzcan las tasas de detección de contenidos verdaderamente inseguros. La reducción en los índices de falsos positivos disminuye el volumen de imágenes marcadas para revisiones adicionales, lo que supone una mejor experiencia para los moderadores humanos y un mayor ahorro de costos.
En la actualidad, muchas empresas emplean equipos de moderadores humanos para revisar los contenidos de terceros o generados por los usuarios, mientras que otras simplemente reaccionan a las quejas de los usuarios para retirar los contenidos ofensivos o inapropiados. Sin embargo, los moderadores humanos por sí solos no pueden satisfacer estas necesidades con la calidad o la rapidez necesarias, lo que podría dar lugar a una mala experiencia del usuario, a elevados costos para alcanzar la escala o incluso a que la reputación de la marca se vea afectada. La moderación de contenidos de Amazon Rekognition le permite agilizar sus flujos de trabajo de moderación utilizando machine learning. Gracias a las API de moderación completamente administradas, puede revisar rápidamente millones de imágenes o miles de vídeos, y marcar únicamente un pequeño subconjunto de activos para aplicar medidas adicionales. Esto le garantiza una cobertura de moderación completa a la vez que rentable para todos sus contenidos a medida que su empresa crece, además de reducir la carga que supone para su personal tener que examinar grandes volúmenes de contenidos susceptibles de moderación. La siguiente es una cita de Flipboard sobre cómo están utilizando Amazon Rekognition para la moderación de contenidos de imágenes:
Flipboard es una plataforma de recomendación de contenidos que permite a editores, creadores y responsables compartir historias con los lectores para ayudarles a estar al día con sus pasiones e intereses. De media, Flipboard procesa aproximadamente 90 millones de imágenes al día. Para mantener un entorno seguro e inclusivo y confirmar que todas las imágenes cumplen con las directrices de la plataforma a escala, es crucial implementar un flujo de trabajo de moderación de contenidos utilizando machine learning. Crear modelos para este sistema internamente requería mucho trabajo y carecía de la precisión necesaria para cumplir los altos estándares de calidad que esperan los usuarios de Flipboard. De ahí que Amazon Rekognition se convirtiera en la solución adecuada para nuestro producto. Amazon Rekognition es una plataforma de moderación de contenidos de gran precisión, fácil de implementar y de alto rendimiento que proporciona una taxonomía de moderación robusta. Desde que incorporamos Amazon Rekognition a nuestros flujos de trabajo, hemos detectado aproximadamente 63 000 imágenes que infringen nuestras normas al día. Además, con mejoras frecuentes como la última actualización del modelo de moderación de contenidos, podemos estar seguros de que Rekognition seguirá contribuyendo a hacer de Flipboard un entorno aún más inclusivo y seguro para nuestros usuarios a lo largo del tiempo. - Anuj Ahooja, director general de ingeniería de Flipboard
Las mejoras de precisión para la moderación de contenido de Amazon Rekognition en imágenes ya están disponibles en todas las regiones de AWS compatibles. Para comenzar, puede probar la última versión en la consola de Amazon Rekognition. Para obtener más información sobre la moderación de contenidos de Amazon Rekognition, consulte la documentación de la característica.