Amazon Rekognition のコンテンツモデレーション
Amazon Rekognition のコンテンツモデレーションは、機械学習 (ML) を使用して画像と動画のモデレーションワークフローを自動化および合理化します。機械学習の経験は必要ありません。フルマネージド API とカスタマイズ可能なモデレーションルールを使用して、不適切または望ましくないものを検出しながら、何百万もの画像と動画を効率的に処理し、ユーザーの安全性とビジネスのコンプライアンスを維持します。実際に利用した分に対してのみ料金が発生します。最低料金、ライセンス料や前払いの義務はありません。
メリット
ユーザーとブランドの安全性を向上する
事前定義された、またはビジネス固有のさまざまな安全でないカテゴリと照らし合わせて、数個あるいは数百万個の画像と動画を確認します。ユーザーやブランドスポンサーが望ましくないコンテンツや不適切なコンテンツにさらされないように積極的に取り組みます。
モデレートを自動化する
人間のレビュー担当者がコンテンツのより小さなサブセットをフォローアップできるようにし、安全でないコンテンツの最大 95% に自動的にフラグを立てることで、有害なコンテンツにさらされることを防ぎます。 Amazon Augmented AI (Amazon A2I) を使用して、新しいツールやインフラストラクチャを構築することなく、人間によるレビューを統合します。
信頼性を向上させ、コストを削減する
事前の確約や高額なライセンスなしで、コストの信頼性が高く、スケーラブルで、繰り返し可能なクラウドベースのコンテンツモデレーションワークフローを作成します。処理した画像の数や動画の長さに基づいて支払いを行います。
特徴
露骨な画像や動画を検出してラベルを付ける
画像や動画の中の露骨な成人向けまたは暗示的なコンテンツ、暴力、ドラッグ、タバコ、アルコール、ヘイト シンボル、ギャンブル、不快なコンテンツを検出します。検出された各ラベルと動画のタイムスタンプを信頼スコアでマークします。階層的な分類法を使用して、さまざまな地域、ターゲットオーディエンス、時間帯などに合わせた詳細なビジネスルールを作成します。
オーディオとテキストのモデレーションをカスタマイズする
Amazon Rekognition のテキスト検出を使用して、禁止されている単語やフレーズの独自のリストと照合して、テキストを検出、読み取り、チェックします。 Amazon Transcribe を使用して動画の音声をテキストに変換し、冒とく的な表現やヘイトスピーチが含まれていないかを確認します。Amazon Comprehend の自然言語処理 (NLP) 機能を使用して、テキスト分析を拡張します。
ユーザーの年齢を確認する
Amazon Rekognition Face Liveness を使用して、未成年のユーザーが制限付きコンテンツにアクセスすることを阻止します。たとえば、オンラインゲームや出会い系サービスを提供しているお客様は、Face Liveness と Amazon Rekognition Facial Analysis の年齢推定を使用して、アクセスを許可する前にユーザーの年齢を確認します。
コンテンツモデレーションのオペレーションを合理化する
自動化と人工知能 (AI) 機能にアクセスすることで、機械学習の専門知識がなくても、信頼性の高いコンテンツモデレーションのソリューションを実装できます。安全なオンライン環境を構築し、ブランドを保護し、モデレーションコストを最小限に抑えます。詳細については、「コンテンツモデレーションのオペレーションの合理化」を参照してください。
カスタムモデルをトレーニングおよびデプロイする
数回クリックするか API 呼び出しを行うだけで、独自のモデレーションモデルを簡単にトレーニングしてデプロイできます。Amazon Rekognition Custom Labels を使用して新しいモデルを迅速に作成し、運用可能にすることで、オンラインストアから不快なメッセージを削除したり、ライブブロードキャストでロゴをぼかしたりするなど、リアルタイムのシナリオに対処できます。
人間によるレビューで予測を強化する
戦略的な人手による介入により、予測をさらに強化します。Amazon A2I を Amazon Rekognition モデレーション API と統合して、信頼性の低い予測で人手による介入が必要な場合に、チームやサードパーティーベンダーが最終的な判断を下せるようにします。
ユースケース
ソーシャルメディア
コンテンツ共有プラットフォームの不適切なコンテンツにユーザーがさらされることを防ぎます。写真や動画の共有、オンラインゲーム、ビデオストリーミング、出会い系などのソーシャルメディアプラットフォームやサービス上で、不適切なコンテンツからユーザーとコミュニティを保護するために、大量のユーザーアップロードを積極的にモデレートします。
ゲーム
ゲームフォーラム、ライブゲーム、ビデオストリーミングサービスでの攻撃的または物議を醸す画像を防ぎます。さらに、プロフィールやアバターなどのユーザー生成コンテンツをモデレートし、ゲーマーの参加と活動を維持し、ユーザー離れの原因となる嫌がらせやいじめを防ぎます。
E コマース
第三者の商品リストやレビューに関連する違法または不適切な画像や動画コンテンツをデジタル棚から排除し、安全で透明性の高いショッピング体験を促進することで、お客様の信頼を高めます。ショッピングジャーニーにおいて、情報に基づいた意思決定を行うために商品レビューを重視するお客様が増えているため、プラットフォームの評判とコンプライアンスを保護します。
広告
ブランドを望まない関わりから守り、コンプライアンスを遵守します。また、ブランドの地位向上や好感度向上など、収益拡大につながるブランド目標を達成します。
メディアとエンターテインメント
安全でない可能性のある画像や動画コンテンツから視聴者を保護し、ユーザーの福利を守り、知的財産を保護して、ポジティブなコミュニティを維持します。
教育
学生や教育者からの貢献をモデレートして、安全で、包括的な充実した学習体験を構築します。
お客様
40 を超える Amazon Rekognition のお客様事例の詳細をご覧ください。
CoStar は、商業用不動産情報、分析、テクノロジー、ニュースのリーダーであり、マーケットで最も包括的なデータプラットフォームの 1 つです。同社は、そのプラットフォームに毎日アップロードされる 150,000 を超える画像を処理しています。
「CoStar にとっては、包括的かつ安全に、データ駆動型のユーザーコミュニティを実現するため、当社のプラットフォームにアップロードされた画像が当社のエンドユーザー契約の規定に準拠しており、不適切なコンテンツが含まれていないことが不可欠です。Amazon Rekognition の Content Moderation API により、アップロードされたすべての画像を自動的に分析するソリューションを簡単に構築できるようになりました。これにより、高価値の製品をお客様に効率的に提供できるようになりました。Amazon Rekognition は、事前にトレーニングされた一連のコンピュータビジョン API を提供します。これは、コンテンツモデレーション、テキスト検出、オブジェクト検出とともに、受け取った画像をより見つけやすくし、コミュニティをより包括的にすることで、提供製品のさらなる改善に役立ちます。Amazon Rekognition を使用すると、事前にトレーニングされたモデルを使用して、迅速にアクションを実行し、AI スマートを当社のシステムに追加できるため、不動産セクターに独自のソリューションを提供することに集中できます」
CoStar Group、プリンシパルソフトウェアエンジニア、Mark Osborn 氏
Dream11 を使用すると、ユーザーはグループチャットで動画や写真を投稿したり、画像を共有したりできます。同社は、コンテンツモデレーションプロセスの一環として、Amazon Rekognition を使用して毎日何千ものアセットのメディア分析を自動化し、1 億名のユーザーを保護しながら、魅力的なエクスペリエンスを提供しています。
「私たちのあらゆる意思決定は、データとテクノロジーに基づき、お客様を維持するのに役立つ『魅力的な要素』を継続的に追加するためのさまざまなメトリクスを考慮して行われます。AWS は、依存関係なしに物事を迅速に立ち上げるのに役立つ直感的なクラウドネイティブサービスを利用して、ユーザーファーストの文化を促進します。さまざまな AWS テクノロジー製品は、当社がプロトタイプを開発し、大規模であっても非常に迅速に稼働させるのに役立ちます。これにより、スピードが不可欠なマーケットで競争力を得ることができます」
Dream11、エンジニアリング担当バイスプレジデント、Praveen Jain 氏
MobiSocial は、ソーシャルネットワーキングおよびゲームアプリケーションの構築に注力する大手モバイルソフトウェア会社です。同社は、数千万人のモバイルゲームライブストリーマーと e スポーツプレーヤーが集まって一緒にゲームをプレイし、新しい友人に会うグローバルコミュニティである Omlet Arcade を開発しています。
「当社のゲームコミュニティが、人々が交流し、楽しいコンテンツを共有するための安全な環境であるようにすることを目的として、当社のコミュニティの基準に準拠していないコンテンツを特定するために、機械学習を利用しました。Amazon Rekognition を利用して、非準拠コンテンツを含むアップロードされた画像および動画コンテンツにフラグを付けるワークフローを作成しました。Amazon Rekognition の Content Moderation API は、世界中の何百万ものゲームクリエイターのコミュニティを管理するための正確さと規模を実現するのに役立ちます。Amazon Rekognition を実装してから、運用チームが手動でレビューするコンテンツの量が 95% 削減できた一方、エンジニアリングリソースが解放され、コアビジネスに集中できるようになりました。最新の Rekognition のコンテンツモデレーションモデルのアップデートを心待ちにしています。これにより、精度が向上し、モデレーション用の新しいクラスが追加されます」
MobiSocial、シニアアーキテクト、Zehong 氏
SmugMug は、SmugMug と Flickr の 2 つの非常に大規模なオンライン写真プラットフォームを運営し、1 億人を超えるメンバーが数百億枚の写真を安全に保存、検索、共有、販売しています。Flickr は、フォトグラファーを中心とする世界最大のコミュニティであり、世界中のフォトグラファーがインスピレーションを見つけ、互いにつながり、情熱を世界と共有できるようにしています。
大規模でグローバルなプラットフォームであるため、望ましくないコンテンツはコミュニティの健全性にとって非常にリスクが高く、写真家から距離を置かれてしまう可能性があります。Amazon Rekognition のコンテンツモデレーション機能を使用して、不要なコンテンツを見つけて適切にフラグを付け、コミュニティに安全で快適なエクスペリエンスをもたらします。Flickr ほど規模が大きいと、Amazon Rekognition なしでこれを行うことはほぼ不可能です。現在、Amazon Rekognition のコンテンツモデレーションのおかげで、当社のプラットフォームは、メンバーの期待により近い素晴らしい写真を自動的に発見し、ハイライトすることができます。これにより、インスピレーションを与え、つながり、共有するという当社のミッションを実現できます」
SmugMug、共同創設者、CEO 兼チーフギーク、Don MacAskill 氏
株式会社 ZOZO は、日本最大のファッション e コマース「ZOZOTOWN」や、スタイリングやコーディネートを共有できる SNS「WEAR」など、ファッション好きのためのさまざまなサービスを所有、運営しています。
「WEAR にはユーザーから毎日多くの画像投稿があり、ユーザーの投稿した画像がサービスガイドラインを遵守出来ているか、一枚ずつ確認する必要がありました。そのため、自動で画像の検査を行うシステムを構築し、そのシステムにおいて Amazon Rekognition の Content Moderation API を利用して、Amazon S3 にあるお客さまの投稿画像を自動分析しています。Amazon Rekognition によって、WEAR で公開可能な画像を自動で認識することで、レビュー作業を最大 40% 削減しました。さらに、担当者が安全な画像かどうか判断できない場合に発生していたエスカレーションなどのコミュニケーションも削減できました」
株式会社 ZOZO、ブランドソリューション開発部エンジニア、重谷優氏
Amazon Rekognition 料金の詳細