Publicado en: Jul 26, 2023
Hoy nos complace anunciar la detección de toxicidad de Amazon Transcribe una función de detección de toxicidad basada en la voz y en ML que aprovecha señales de audio y texto para identificar y clasificar el contenido tóxico. Amazon Transcribe es un servicio de automatic speech recognition (ASR, reconocimiento de voz automático) que permite agregar con facilidad capacidades de conversión de voz en texto a sus aplicaciones. Además del texto, la detección de toxicidad de Transcribe utiliza señales del habla, como el tono y la entonación, para centrarse en la intención tóxica del habla. El contenido tóxico se marca y clasifica en siete categorías, que incluyen el acoso sexual, la incitación al odio, las amenazas, el abuso, las blasfemias, los insultos y los gráficos. Esto permite a los moderadores tomar medidas específicas en lugar de revisar conversaciones completas.
La detección de toxicidad se utiliza en todas las industrias y principalmente en el espacio de los juegos en línea y las redes sociales. Por ejemplo, los juegos en línea utilizan la detección de toxicidad para monitorear las conversaciones habladas entre los jugadores, especialmente cuando se informa de un incidente. Por lo general, los moderadores humanos revisan las grabaciones largas para identificar el contenido tóxico y tomar medidas. Ahora, con la detección de toxicidad de Amazon Transcribe, los moderadores humanos ven exactamente en qué parte de la conversación se habló con contenido tóxico y el lenguaje utilizado se clasifica con puntuaciones de toxicidad. Esto reduce el tiempo dedicado a escuchar contenido en un 95 %, lo que permite a los moderadores cubrir más audio y tomar medidas más rápidas cuando se detecta toxicidad.
La detección de toxicidad de Amazon Transcribe ya está disponible en inglés de EE. UU. con procesamiento por lotes. Esta función se admite en las siguientes regiones de AWS: este de EE. UU. (Norte de Virginia), este de EE. UU. (Ohio), oeste de EE. UU. (Oregón), Asia Pacífico (Sídney), Europa (Irlanda) y Europa (Londres). Incurrirá en cargos adicionales tal como se detalla en los precios de detección de toxicidad. Para obtener más información, consulte la publicación «Marque el lenguaje dañino en las conversaciones habladas con la detección de toxicidad de Amazon Transcribe» y la documentación de Amazon Transcribe.