Publié le: Oct 12, 2020
La modération de contenu d’Amazon Rekognition est un service basé sur le deep learning capable de détecter des images ou des vidéos inappropriées, indésirables ou offensantes, simplifiant ainsi la recherche et la suppression de contenu de cette nature à grande échelle. Amazon Rekognition fournit une taxonomie détaillée des catégories de modération, par exemple « Nudité explicite », « Contenu suggestif », « Contenu violent » et « Visuellement perturbant ». À compter d’aujourd’hui, les clients peuvent détecter six nouvelles catégories de modération, notamment « Drogue », « Tabac », « Alcool », « Jeu de hasard », « Gestes obscènes » et « Symboles de haine ». De plus, les clients bénéficient également d’une amélioration des taux de détection pour les catégories déjà prises en charge. Avec les API de modération d’Amazon Rekognition, les clients des secteurs des réseaux sociaux, des médias audiovisuels, de la publicité et du commerce en ligne peuvent améliorer l’expérience des utilisateurs, fournir aux annonceurs des garanties quant à la sécurité de leurs marques ou se conformer aux règlementations locales et mondiales.
Aujourd’hui, nombre d’entreprises emploient des équipes de modérateurs humains pour passer en revue du contenu généré par des tiers ou les utilisateurs. D’autres, par contre, réagissent simplement aux plaintes des utilisateurs et suppriment les images, publicités ou vidéos offensantes ou inappropriées. Cependant, les modérateurs humains ne peuvent pas seuls répondre aux besoins de modération à l’échelle de l’Internet. Cela peut entraîner une mauvaise expérience utilisateur, des coûts prohibitifs pour atteindre le niveau de couverture requis, voire une perte de réputation des marques. Avec Amazon Rekognition pour la modération d’images et de vidéos, les modérateurs humains n’ont plus à examiner qu’un infime ensemble de contenus mis en évidence par le machine learning, soit en règle générale 1 à 5 % du volume total de contenus. Ils peuvent ainsi se concentrer sur des activités plus utiles et réduire la charge de visionnement de contenu peu recommandable, tout en atteignant une couverture complète à une fraction du coût d’un processus entièrement manuel. En outre, Amazon Rekognition fournit un ensemble hiérarchisé de catégories de modération de premier et de deuxième niveaux. Grâce à cette taxonomie, les clients peuvent créer des règles métier variées pour gérer des exigences géographiques et démographiques diverses. Pour obtenir la liste de toutes les catégories prises en charge, veuillez consulter cette page.
Voici quelques cas d’utilisation courants de la modération de contenu d’Amazon Rekognition :
Les plateformes de réseaux sociaux et de partage de photos fonctionnent avec une immense quantité de photos et de vidéos générées au quotidien par les utilisateurs. Pour s’assurer que le contenu chargé ne viole pas les directives de la communauté et les normes sociétales, ces clients peuvent utiliser Amazon Rekognition pour signaler et supprimer le contenu inapproprié à grande échelle, même avec de petites équipes de modérateurs humains. Les étiquettes de modération détaillées permettent également de créer un ensemble de filtres utilisateur avec une granularité plus fine. Par exemple, un utilisateur peut considérer des images présentant de l’alcool ou des scènes de consommation d’alcool comme étant acceptables dans la publicité d’une boisson alcoolisée. Cependant, il peut souhaiter éviter catégoriquement les images montrant de la drogue ou des scènes de consommation de drogue.
De même, les entreprises de médias audiovisuels et de vidéo à la demande (VOD) doivent veiller à leur conformité à la règlementation des marchés et des zones géographiques dans lesquels elles opèrent. Par exemple, les contenus avec des scènes de tabagisme doivent être accompagnés d’une mise en garde affichée à l’écran dans des pays comme l’Inde. Par ailleurs, les marques et les annonceurs veulent éviter des rapprochements inadéquats lorsqu’ils insèrent leur publicité dans une vidéo. Par exemple, une marque de jouets pour enfants peut ne pas souhaiter que sa publicité apparaisse dans un contenu montrant la consommation d’alcool. Les entreprises de médias peuvent désormais utiliser l’ensemble complet de catégories de modération disponibles dans Amazon Rekognition pour signaler les parties d’un film ou d’une émission télé qui doivent faire l’objet de mesures additionnelles de la part des éditeurs ou des équipes de gestion du trafic publicitaire. Cette approche permet de gagner un temps précieux, d’améliorer la sécurité des marques pour les annonceurs et d’éviter les lourdes amendes pour non conformité infligées par les régulateurs.
Pour finir, les plateformes de e-commerce et d’annonces classées en ligne qui autorisent l’affichage de produits par des tiers ou les utilisateurs souhaitent détecter et supprimer rapidement les produits illicites, inappropriés ou controversés comme les produits affichant des symboles de haine ou réservés aux adultes ou le tabac et la drogue. Les nouvelles catégories de modération de contenu d’Amazon Rekognition permettent de rationaliser considérablement ce processus en signalant les articles potentiellement problématiques en vue de leur examen ou de mesures à prendre.
Les nouvelles catégories de modération de contenu et les améliorations de précision applicables aux images et vidéos Amazon Rekognition sont désormais disponibles dans toutes les régions AWS prises en charge par Amazon Rekognition. Pour démarrer, veuillez lire notre blog pour en savoir plus. Pour essayer la modération sur vos propres contenus, vous pouvez utiliser la console Amazon Rekognition pour les images, ou Media Insights Engine pour les vidéos.