Publicado: Nov 16, 2021
A moderação de conteúdo do Amazon Rekognition é um recurso baseado em aprendizado profundo que pode detectar imagens e vídeos impróprios, indesejados ou ofensivos, facilitando a localização e a remoção desse tipo de conteúdo em grande escala. O Amazon Rekognition oferece uma taxonomia detalhada por 35 subcategorias e 10 categorias de moderação de alto nível diferentes. A partir de hoje, a moderação de conteúdo do Amazon Rekognition traz um modelo aprimorado para moderação de imagens, que reduz consideravelmente as taxas de falsos positivos em todas as categorias de moderação, particularmente “nudez explícita”, sem reduzir as taxas de detecção para o conteúdo verdadeiramente inseguro. Taxas menores de falsos positivos levam a menores volumes de imagens sinalizadas para revisão posterior, aumentando a eficiência dos moderadores humanos e reduzindo os custos.
Atualmente, muitas empresas empregam equipes de moderadores humanos para analisar conteúdo gerado por terceiros ou pelo usuário, enquanto outras simplesmente reagem a reclamações do usuário para remover o conteúdo ofensivo ou impróprio. No entanto, moderadores humanos não conseguem atender a essas necessidades em grande escala com qualidade ou velocidade suficiente, o que poderia levar a uma experiência ruim do usuário, altos custos para conseguir aumentar a escala ou ainda uma perda de reputação da marca. A moderação de conteúdo do Amazon Rekognition permite que você agilize os fluxos de trabalho da moderação utilizando o machine learning. Por meio de APIs de moderação totalmente gerenciadas, você poderá rever rapidamente milhões de imagens ou milhares de vídeos, sinalizando apenas um pequeno subconjunto para alguma ação adicional. Isso garante uma cobertura de moderação abrangente, porém pouco dispendiosa, para todo o conteúdo à medida que os negócios aumentam, podendo reduzir o trabalho de sua mão de obra ao examinar grandes volumes de conteúdo para realizar uma moderação em potencial. Esta é uma citação do Flipboard sobre como o Amazon Rekognition está sendo usado para a moderação do conteúdo de imagem:
O Flipboard é uma plataforma de recomendação de conteúdo para permitir que editores, criadores e curadores compartilhem histórias com os leitores para ajudá-los a se manterem atualizados em relação a suas paixões e interesses. Em média, o Flipboard processa aproximadamente 90 milhões de imagens por dia. Para manter um ambiente seguro e inclusivo, e para confirmar se todas as imagens cumprem as diretrizes da plataforma em grande escala, é fundamental que se implemente um fluxo de trabalho de moderação de conteúdo por meio do machine learning. A construção de modelos para esse sistema internamente era trabalhosa e não tinha a exatidão necessária para atender aos altos padrões de qualidade que os usuários do Flipboard esperam. Foi aí que o Amazon Rekognition tornou-se a solução certa para o nosso produto. O Amazon Rekognition é uma plataforma de moderação de conteúdo altamente precisa, de fácil implantação e bom desempenho, que oferece uma taxonomia de moderação robusta. Desde que colocamos o Amazon Rekognition em nossos fluxos de trabalho, temos identificado aproximadamente 63 mil imagens que violam nossos padrões diariamente. Além disso, com as melhorias frequentes, como a mais recente atualização do modelo de moderação de conteúdo, podemos estar confiantes de que o Rekognition continuará ajudando a tornar o Flipboard um ambiente ainda mais inclusivo e seguro para os nossos usuários com o passar do tempo. – Anuj Ahooja, Gerente de Engenharia Sênior, Flipboard
As melhorias na precisão da moderação de conteúdo de imagens do Amazon Rekognition agora estão disponíveis em todas as Regiões compatíveis da AWS. Para começar, você pode experimentar a versão mais recente do Amazon Rekognition Console. Para obter mais informações sobre a moderação de conteúdo do Amazon Rekognition, consulte a documentação do recurso.