Veröffentlicht am: Nov 16, 2021
Content-Moderation mit Amazon Rekognition ist eine auf Deep Learning basierende Funktion, die unangemessene, unerwünschte oder anstößige Bilder und Videos erkennt und so das Auffinden und Entfernen solcher Inhalte in großem Umfang erleichtert. Amazon Rekognition bietet eine detaillierte Taxonomie mit 35 Unterkategorien und 10 verschiedenen Top-Level-Moderationskategorien. Ab heute verfügt die Content-Moderation von Amazon Rekognition über ein verbessertes Modell für die Bildmoderation, das die Falsch-positiv-Raten in allen Moderationskategorien, insbesondere bei "expliziter Nacktheit", deutlich reduziert, ohne die Erkennungsraten für tatsächlich unsichere Inhalte zu verringern. Niedrigere Falsch positiv-Raten bedeuten weniger gemeldete Bilder, die genauer überprüft werden müssen. Sie sorgen also für Kosteneinsparungen und für eine höhere Mitarbeitereffizienz für Moderatoren.
Heutzutage setzen viele Unternehmen auf Teams menschlicher Moderatoren, um von Dritten oder Nutzern erstellte Inhalte zu überprüfen, während andere Unternehmen nur auf Nutzerbeschwerden reagieren, um anstößige oder unangemessene Inhalte zu entfernen. Menschliche Moderatoren allein können bei großen Volumen diese Anforderungen jedoch nicht in ausreichender Qualität oder Geschwindigkeit erfüllen, was zu einer schlechten Benutzererlebnis, hohen Kosten bei der Bewältigung großer Volumen oder sogar zu einem Verlust des Ansehens der Marke führen kann. Content-Moderation von Amazon Rekognition ermöglicht es Ihnen, Ihre Moderations-Workflows mithilfe von Machine Learning zu optimieren. Dank vollständig verwalteter Moderations-APIs können Sie schnell Millionen von Bildern oder Tausende von Videos überprüfen, wobei nur eine kleinere Anzahl von Komponenten für weitere Maßnahmen gekennzeichnet wird. So gewährleisten Sie eine umfassende, aber kosteneffiziente Moderation für alle Ihre Inhalte, während Ihr Unternehmen wächst, und Sie können Ihre Mitarbeiter entlasten, die sonst große Mengen von Inhalten auf mögliche Probleme hin hätten prüfen müssen. Nachfolgend ein Zitat von Flipboard, wie sie Amazon Rekognition für die Moderation von Bildinhalten nutzen:
Flipboard ist eine Plattform zur Empfehlung von Inhalten, die es Verlegern, Autoren und Kuratoren ermöglicht, Geschichten mit Lesern zu teilen, damit diese über ihre Leidenschaften und Interessen auf dem Laufenden bleiben. Im Durchschnitt werden bei Flipboard etwa 90 Millionen Bilder pro Tag verarbeitet. Um eine sichere und inklusive Umgebung zu gewährleisten und sicherzustellen, dass bei großen Volumen alle Bilder den Richtlinien der Plattform entsprechen, ist die Implementierung eines Workflows zur Inhaltsmoderation mithilfe von Machine Learning unerlässlich. Die interne Entwicklung von Modellen für dieses System war arbeitsintensiv und bot nicht die nötige Präzision, um die hohen Qualitätsstandards zu erfüllen, die Flipboard-Benutzer erwarten. Amazon Rekognition war da die richtige Lösung für unser Produkt. Amazon Rekognition ist eine hochpräzise, einfach zu implementierende und leistungsstarke Plattform zur Inhaltsmoderation, mit einer robusten Moderationstaxonomie. Seit wir Amazon Rekognition in unsere Workflows integriert haben, identifizieren wir täglich etwa 63 000 Bilder, die gegen unsere Standards verstoßen. Zudem können wir dank regelmäßiger Verbesserungen wie dem jüngsten Modell-Update für Content-Moderation darauf vertrauen, dass Rekognition auch in Zukunft dazu beitragen wird, Flipboard zu einer noch inklusiveren und sichereren Umgebung für unsere Benutzer zu machen. - Anuj Ahooja, Sr. Technischer Direktor, Flipboard
Verbesserungen für die Präzision der Content-Moderation von Amazon Rekognition bei Bildern sind jetzt in allen unterstützten AWS-Regionen verfügbar. Wenn Sie loslegen möchten, finden Sie die neueste Version in der Amazon Rekognition-Konsole. Weitere Informationen zur Content-Moderation von Amazon Rekognition finden Sie in der Funktion Dokumentation.