Veröffentlicht am: Jul 26, 2023
Wir freuen uns, heute Amazon Transcribe Toxicity Detection vorstellen zu können, eine ML-gestützte, sprachbasierte Toxizitätserkennungsfunktion, die sowohl Audio- als auch textbasierte Hinweise nutzt, um toxische Inhalte zu identifizieren und zu klassifizieren. Amazon Transcribe ist ein automatischer Spracherkennungsservice (ASR), mit dem Sie Ihre Anwendungen ganz einfach mit Sprache-zu-Text-Funktionen erweitern können. Zusätzlich zum Text verwendet Transcribe Toxicity Detection Sprachsignale wie Ton und Tonhöhe, um toxische Absichten in Sprache genauer zu erkennen. Toxische Inhalte werden gekennzeichnet und in sieben Kategorien eingeteilt, darunter sexuelle Belästigung, Hassreden, Bedrohung, Missbrauch, Obszönität, Beleidigung und explizite Inhalte. Auf diese Weise können Moderatoren gezielte Maßnahmen ergreifen, anstatt ganze Konversationen zu überprüfen.
Die Toxizitätserkennung wird branchenübergreifend und hauptsächlich in den Bereichen Online-Gaming und soziale Medien eingesetzt. Online-Spiele verwenden beispielsweise die Toxizitätserkennung, um gesprochene Gespräche zwischen Spielern zu überwachen, insbesondere wenn ein Vorfall gemeldet wird. In der Regel überprüfen menschliche Moderatoren lange Aufzeichnungen, um toxische Inhalte zu lokalisieren und Maßnahmen zu ergreifen. Mithilfe von Amazon Transcribe Toxicity Detection können menschliche Moderatoren jetzt genau sehen, wo in der Konversation toxische Inhalte gesprochen wurden, und die verwendete Sprache wird anhand von Toxizitätswerten kategorisiert. Dadurch wird die Zeit, die für das Anhören von Inhalten aufgewendet wird, um 95% reduziert, sodass Moderatoren mehr Audio abdecken und schneller handeln können, wenn Toxizität festgestellt wird.
Amazon Transcribe Toxicity Detection ist jetzt für US-Englisch mit Batch-Verarbeitung verfügbar. Diese Funktion wird in den folgenden AWS-Regionen unterstützt: USA Ost (Nord-Virginia), USA Ost (Ohio), USA West (Oregon), Asien-Pazifik (Sydney), Europa (Irland) und Europa (London). Es fallen zusätzliche Gebühren an, wie in den Preisen für Toxizitätserkennung beschrieben. Weitere Informationen finden Sie im Beitrag „Schädliche Sprache in gesprochenen Gesprächen mit der Toxizitätserkennung von Amazon Transcribe melden“ und in der Amazon Transcribe-Dokumentation.