Publié le: Nov 16, 2021
La modération de contenu Amazon Rekognition est une fonction basée sur le deep learning qui permet de détecter les images et les vidéos inappropriées, indésirables ou offensantes, facilitant ainsi la recherche et la suppression de ces contenus à grande échelle. Amazon Rekognition fournit une taxonomie détaillée à travers 35 sous-catégories et 10 catégories de modération de niveau supérieur distinctes. À partir d'aujourd'hui, la modération de contenu Amazon Rekognition est dotée d'un modèle amélioré pour la modération d'images qui réduit de manière significative les taux de faux positifs dans toutes les catégories de modération, en particulier la « nudité explicite », sans réduction des taux de détection pour les contenus réellement dangereux. La réduction des taux de faux positifs signifie la réduction des volumes d'images marquées devant faire l'objet d'une analyse approfondie, ce qui se traduit par une meilleure expérience pour les modérateurs humains et par des économies de coûts.
Aujourd'hui, nombre d'entreprises emploient des équipes de modérateurs humains pour passer en revue du contenu généré par des tiers ou les utilisateurs. D'autres, par contre, réagissent simplement aux plaintes des utilisateurs et suppriment le contenu offensant ou inapproprié. Cependant, les modérateurs humains seuls ne peuvent pas répondre à ces besoins avec une qualité ou une rapidité suffisante, ce qui pourrait conduire à une mauvaise expérience utilisateur, à des coûts élevés pour atteindre le niveau requis, ou même à une perte de réputation de la marque. La modération de contenu Amazon Rekognition vous permet de rationaliser vos flux de modération en utilisant le machine learning. Grâce à des API de modération entièrement gérées, vous pouvez rapidement examiner des millions d'images ou des milliers de vidéos et ne sélectionner qu'un petit sous-ensemble de ressources pour une action ultérieure. Ainsi, vous bénéficiez d'une couverture de modération complète mais rentable pour l'ensemble de votre contenu à mesure que votre entreprise se développe, et vous pouvez réduire la charge de travail de votre main-d'œuvre qui doit examiner de gros volumes de contenu pour une modération potentielle. Voici une citation de Flipboard sur la façon dont ils utilisent Amazon Rekognition pour la modération du contenu des images :
Flipboard est une plateforme de recommandation de contenu qui permet aux éditeurs, aux créateurs et aux curateurs de partager des histoires avec les lecteurs pour les aider à rester au courant de leurs passions et de leurs intérêts. En moyenne, Flipboard traite environ 90 millions d'images par jour. Pour maintenir un environnement sûr et inclusif et pour confirmer que toutes les images sont conformes aux directives de la plateforme à grande échelle, il est crucial de mettre en œuvre un flux de modération de contenu utilisant le machine learning. Créer des modèles pour ce système en interne demandait beaucoup de travail et n'avait pas la précision nécessaire pour répondre aux normes de qualité élevées que les utilisateurs de Flipboard attendent. C'est là qu'Amazon Rekognition est devenu la solution idéale pour notre produit. Amazon Rekognition est une plateforme de modération de contenu très précise, facile à déployer et performante qui fournit une taxonomie de modération robuste. Depuis que nous avons intégré Amazon Rekognition dans nos flux de travail, nous détectons environ 63 000 images par jour qui violent nos normes. De plus, avec des améliorations fréquentes comme la dernière mise à jour du modèle de modération de contenu, nous pouvons être sûrs que Rekognition continuera à contribuer à faire de Flipboard un environnement encore plus inclusif et sûr pour nos utilisateurs au fil du temps. – Anuj Ahooja, Sr. Responsable de l'ingénierie, Flipboard
Les améliorations de la précision de la modération du contenu des images par Amazon Rekognition sont désormais disponibles dans toutes les régions AWS prises en charge. Pour démarrer, vous pouvez essayer la dernière version dans la console Amazon Rekognition. Pour plus d'informations sur la modération de contenu Amazon Rekognition, consultez la documentation sur les fonctions.