Publicado: Jul 26, 2023
Hoje, temos o prazer de anunciar a detecção de toxicidade do Amazon Transcribe, um recurso de detecção de toxicidade em voz baseado em ML que utiliza sinais baseados em áudio e texto para identificar e classificar conteúdo tóxico. O Amazon Transcribe é um serviço de Automatic Speech Recognition (ASR – Reconhecimento automático de fala) que facilita a adição de recursos de conversão de fala em texto às aplicações. Além do texto, a detecção de toxicidade do Transcribe usa sinais de fala, como tom e altura, para detectar intenções tóxicas na fala. O conteúdo tóxico é sinalizado e classificado em sete categorias, incluindo assédio sexual, discurso de ódio, ameaça, abuso, palavrões, insultos e falas explícitas. Isso permite que os moderadores tomem medidas em falas explícitas em vez de revisar conversas inteiras.
A detecção de toxicidade é usada em todos os setores e principalmente no espaço de jogos online e mídias sociais. Por exemplo, os jogos online usam detecção de toxicidade para monitorar conversas faladas entre jogadores, especialmente quando há um incidente relatado. Normalmente, os moderadores humanos revisam gravações longas para identificar toxicidade no conteúdo e tomar medidas. Agora, moderadores humanos podem usar a detecção de toxicidade do Amazon Transcribe para saber o ponto exato do conteúdo tóxico. As expressões usadas são classificadas segundo uma pontuação de toxicidade. Isso reduz o tempo gasto ouvindo conteúdo em 95%, permitindo que os moderadores cubram mais áudio e tomem medidas mais rápidas quando a toxicidade é detectada.
A detecção de toxicidade do Amazon Transcribe já está disponível em inglês dos EUA com processamento em lote. Esse recurso tem suporte nas seguintes regiões da AWS: Leste dos EUA (Norte da Virgínia), Leste dos EUA (Ohio), Oeste dos EUA (Oregon), Ásia-Pacífico (Sydney), Europa (Irlanda) e Europa (Londres). Você incorrerá em cobranças adicionais, conforme descrito nos preços da detecção de toxicidade. Para saber mais, consulte a publicação “Flag harmful language in spoken conversations with Amazon Transcribe Toxicity detection” e a documentação do Amazon Transcribe.