投稿日: Oct 12, 2020
Amazon Rekognition のコンテンツモデレーションは深層学習に基づき、不適切、迷惑、または不快な画像や動画を検出できるサービスで、コンテンツの検索と削除をより簡単かつ大規模に行えるようになります。Amazon Rekognition のモデレーションのカテゴリには、「Explicit Nudity (明示的な裸体)」、「Suggestive (暗示的)」、「Violence (暴力)」、「Visually Disturbing (過激な描写)」などの詳細なタクソノミーがあります。加えて、本日より新しい 6 つのカテゴリである「Drug (ドラッグ)」、「Tobacco (タバコ)」、「Alcohol (酒)」、「Gambling (ギャンブル)」、「Rude Gestures (無礼なジェスチャー)」、「Hate Symbols (ヘイトシンボル)」を検出できるようになりました。さらに、既存カテゴリの検出率も改善されました。Amazon Rekognition モデレーション API を使用することで、ソーシャルメディア、放送メディア、広告、e コマースのお客様は、ユーザーエクスペリエンスを改善し、広告主にブランドセーフティを約束し、または現地法や国際的な規制に準拠できます。
現在、一部の企業が単にユーザーからの苦情を受けて不快または不適切な画像、広告、動画を削除している一方で、多くの企業がサードパーティのコンテンツやユーザーが生成したコンテンツのレビューに、モデレーターとして多くの人員を雇用しています。しかし、モデレーターだけではインターネット全体のモデレーションのニーズに応えることはできません。やがてユーザーエクスペリエンスが低下し、必要なカバレッジを達成するために膨大なコストをかけるか、そうでなければブランドの評価が失墜することになりかねません。画像と動画のモデレーションに Amazon Rekognition を使用することで、モデレーターは機械学習がフラグを立てたごく少数 (通常は総数の 1～5%) のコンテンツをレビューするだけですみます。その結果、モデレーターはより重要な作業に集中でき、不快なコンテンツを見続ける負担からも解放されます。さらにはすべてを手作業で行うプロセスに比べわずかなコストで全体をカバーできます。加えて、Amazon Rekognition はモデレーションのカテゴリを第 1 レベルと第 2 レベルに階層化しました。このタクソノミーを使用し、さまざまな地理的、人口統計学上の要件に合わせて多種多様なビジネスルールを作成できるようになります。対応するカテゴリの詳細なリストについては、こちらのページをご覧ください。
Amazon Rekognition コンテンツモデレーションの代表的なユースケースをいくつかご紹介します。
ソーシャルメディアや写真共有のプラットフォームでは、ユーザーが作成した膨大な写真や動画を日々扱っています。アップロードされたコンテンツが地域社会のガイドラインや社会的基準に違反しないよう、Amazon Rekognition を使用してコンテンツにフラグを付けることで、少人数のモデレーターチームでも大量のコンテンツから違反コンテンツを削除できます。また、詳細なモデレーションのラベルを使用することで、よりきめ細かなフィルターを作成できます。たとえば、飲酒している姿やアルコール飲料を含む広告画像を容認できるユーザーでも、ドラッグ製品やドラッグの使用を描写した画像は、いかなる状況でも容認できません。
同様に、放送やビデオオンデマンド (VOD) のメディア企業は、事業拠点のある市場や地域の規制を確実に遵守する必要があります。たとえばインドのような国では、喫煙シーンのあるコンテンツには健康に関する勧告を画面に表示する必要があります。さらに、ブランドや広告主は、自社の広告が不適切なコンテンツに関連付けて表示されるのを避ける必要があります。たとえば子供向けの玩具ブランドの広告が、飲酒しているコンテンツの隣に表示されるのは避けたいでしょう。メディア企業では、Amazon Rekognition の包括的なカテゴリを使って映画やテレビ番組の一部にフラグを立てることで、自社のエディターや広告のトラフィックチームが必要なアクションを取ることができます。これにより貴重な時間を節約できるほか、広告主のブランドセーフティを改善し、規制当局からのコンプライアンス違反による高額な罰金を避けることができます。
最後に、サードパーティやユーザーが製品を掲載できる e コマースプラットフォームやクラシファイドプラットフォームでは、違法、不適切、または物議を醸す製品 (ヘイトシンボルを掲げた物品、アダルト製品、タバコやドラッグ製品など) を即座に検出してリストから削除する必要があります。Amazon Rekognition の新しいモデレーションカテゴリを使えば、問題となる可能性のある掲載品にフラグを立ててレビューやアクションの必要性を示すことで、こうしたプロセスを大幅に効率化できます。
Amazon Rekognition の画像と動画用の新しいコンテンツモデレーションカテゴリと精度の改善点は、Amazon Rekognition が対応するすべての AWS リージョンでご覧いただけるようになりました。使用を開始する際の詳細については、ブログをお読みください。お持ちのコンテンツでモデレーションをお試しになる場合、画像にはAmazon Rekognition コンソールを、動画には Media Insights Engine をご利用いただけます。