コンテンツモデレーションオペレーションを合理化する

安全なオンライン環境を作成し、ブランドを保護し、モデレーションコストを最小限に抑える

人間によるコンテンツモデレーションだけでは、安全上、規制上、および運用上のニーズを満たすようにスケールすることはできません。そのため、ユーザーエクスペリエンスの質が低下し、モデレーションコストが高くなり、ブランドリスクが発生します。機械学習 (ML) を利用したコンテンツのモデレーションは、組織が大量の複雑なユーザー生成コンテンツ (UGC) をモデレーションし、チームが手動でコンテンツのモデレーションを行うために費やす時間の最大 95% を解放するのに役立ちます。

Amazon コンテンツモデレーションサービスとソリューションは、オートメーションと人工知能 (AI) の機能を提供して、機械学習の専門知識を必要とせずに信頼性の高いコンテンツモデレーションソリューションを実装し、有害な露出からユーザーを保護すると同時に、コンテンツモデレーションのコストを削減し、組織をリスク、責任、ブランドのダメージから保護します。

Automate Content Moderation With AWS AI Services And Solutions (AWS AI サービスとソリューションでコンテンツのモデレーションを自動化する) (1:28)

利点

ユーザーとブランドの安全性を高める

あらゆるコンテンツをプロアクティブにレビューすることで、ユーザーやブランドを望ましくないコンテンツへの露出や関連付けから保護します。

方法 Amazon Rekognition を利用して、事前定義された幅広いカテゴリに照らして、または独自の禁止用語のリストから画像や動画をレビューして大規模にメディアをモデレーションします。Amazon Transcribe を利用して、モデレーション機能を音声ファイルに拡張します。Amazon Comprehend を利用して、有益なインサイトと感情を導き出して理解します。

コンテンツモデレーションオペレーションを合理化する

事前にトレーニングされたカスタマイズ可能な Amazon Rekognition モデレーションモデルやワークフローを利用して、新しいツールを構築したり、インフラストラクチャを管理したりする必要を排除します。

方法 動画のスピーチを Amazon Transcribe を利用してテキストに変換して、冒とく的な表現やヘイトスピーチが含まれていないかを確認します。Amazon Translate のニューラル機械テクノロジーを利用して、複数の言語でテキストをモデレーションします。Amazon Comprehend の自然言語処理 (NLP) 機能を利用して、テキスト分析を拡張します。Amazon A2I と統合して、機械学習ワークフローに関する人間によるレビューを提供します。

信頼性を高めて、コストを削減する

事前の確約や高額なライセンスなしで、信頼性が高く、スケーラブルで、繰り返し可能なクラウドベースのコンテンツモデレーションワークフローを作成します。

方法 AWS 無料利用枠で AWS コンテンツモデレーション AI サービスのいずれかから開始し、必要に応じてスケールします。

お客様事例

  • SmugMug
  • SmugMug は、SmugMug と Flickr の 2 つの非常に大規模なオンライン写真プラットフォームを運営し、1 億人を超えるメンバーが数百億枚の写真を安全に保存、検索、共有、販売しています。Flickr は、フォトグラファーを中心とする世界最大のコミュニティであり、世界中のフォトグラファーがインスピレーションを見つけ、互いにつながり、情熱を世界と共有できるようにしています。

    SmugMug
    「大規模でグローバルなプラットフォームであるため、望ましくないコンテンツはコミュニティの健全性にとって非常にリスクが高く、フォトグラファーから距離を置かれてしまう可能性があります。Amazon Rekognition のコンテンツモデレーション機能を使用して、不要なコンテンツを見つけて適切にフラグを付け、コミュニティに安全で快適なエクスペリエンスをもたらします。Flickr ほど規模が大きいと、Amazon Rekognition を使わずにこれを行うことはほぼ不可能です。現在、Amazon Rekognition によるコンテンツのモデレーションのおかげで、当社のプラットフォームは、メンバーの期待により近い素晴らしい写真を自動的に発見し、強調表示することができます。これにより、インスピレーションを与え、つながり、共有するという私たちのミッションを実現できます」 

    共同創設者、CEO & Chief Geek、Don MacAskill 氏

  • ディー・エヌ・エー
  • モバイルゲーム、スポーツ、ライブストリーミング、ヘルスケア、自動車という主なビジネス分野を抱えている日本有数のモバイルゲームおよびインターネットサービス企業であるディー・エヌ・エーは、Voice Pococha というライブオーディオ配信アプリを提供しています。

    ディー・エヌ・エー
    「音声をテキストに変換するサービスを評価する際に、禁止されている単語を自動的にマスキングすることで、ユーザーにとって安全なコミュニティを生み出すことができるサービスを見出すことに重点を置きました。通常、このように禁止された単語は俗語であり、音声をテキストに変換する標準サービスでは認識されません。Amazon Transcribe とそのカスタム語彙機能を使用すれば、禁止されている用語を識別して編集することができます。将来的には、当社のチームは、Amazon Transcribe やアマゾン ウェブ サービス (AWS) チームなどのサービスのサポートにより、Voice Pococha コミュニティを成長させることを心待ちにしています」

    ディー・エヌ・エー、ライブストリーミング事業本部新規戦略室 プロダクトオーナー 野口 拓人 氏、テックリード 中森 雄大 氏

  • CoStar Group
  • CoStar は、商業用不動産情報、分析、テクノロジー、ニュースのリーダーであり、マーケットで最も包括的なデータプラットフォームの 1 つです。同社は、そのプラットフォームに毎日アップロードされる 150,000 を超える画像を処理しています。

    CoStar Group
    「CoStar にとっては、インクルーシブかつ安全で、データ駆動型のユーザーコミュニティを実現できるようにするため、当社のプラットフォームにアップロードされた画像が当社のエンドユーザー契約の規定に準拠しており、不適切なコンテンツが含まれていないことが不可欠です。Amazon Rekognition の Content Moderation API により、アップロードされたすべての画像を自動的に分析するソリューションを簡単に構築できるようになりました。これにより、高価値の製品をお客様に効率的に提供できるようになりました。Amazon Rekognition は、事前にトレーニングされた一連のコンピュータビジョン API を提供します。これは、コンテンツモデレーション、テキスト検出、オブジェクト検出とともに、受け取った画像をより見つけやすくし、コミュニティをよりインクルーシブにすることで、提供製品をさらに改善するのに役立ちます。Amazon Rekognition を利用すると、事前にトレーニングされたモデルを使用して、迅速にアクションを実行し、AI スマートを当社のシステムに追加できるため、不動産セクターに独自のソリューションを提供することに集中できます」

    CoStar Group、プリンシパルソフトウェアエンジニア、Mark Osborn 氏

  • Mobisocial
  • Mobisocial は、ソーシャルネットワーキングおよびゲームアプリケーションの構築に注力する大手モバイルソフトウェア会社です。同社は、数千万人のモバイルゲームライブストリーマーと e スポーツプレーヤーが集まってゲームプレイメディアを共有するグローバルコミュニティである Omlet Arcade を開発しています。

    Mobisocial
    「当社のゲームコミュニティが、人々が交流し、楽しいコンテンツを共有するための安全な環境であるようにすることを目的として、当社のコミュニティの基準に準拠していないコンテンツを特定するために、機械学習を利用しました。Amazon Rekognition を利用して、非準拠コンテンツを含むアップロードされた画像および動画コンテンツにフラグを付けるワークフローを作成しました。Amazon Rekognition のコンテンツモデレーション API は、世界中の何百万ものゲームクリエイターのコミュニティを管理するための正確さと規模を実現するのに役立ちます。Amazon Rekognition を実装してから、運用チームが手動でレビューするコンテンツの量が 95% 削減されるとともに、エンジニアリングリソースが解放され、コアビジネスに集中できるようになりました。最新の Rekognition コンテンツモデレーションモデルのアップデートを心待ちにしています。これにより、精度が向上し、モデレーション用の新しいクラスが追加されます」

    Mobisocial、シニアアーキテクト、Zehong 氏

  • Dream11
  • Dream11 を利用すると、ユーザーは動画や写真を投稿したり、グループチャットで画像を共有したりできます。同社は、コンテンツモデレーションプロセスの一環として、Amazon Rekognition を利用して毎日数千のアセットのメディア分析を自動化し、1 億名のユーザーを保護しながら、魅力的なエクスペリエンスを提供しています。

    Dream11
    「当社によるあらゆる意思決定は、データとテクノロジーに基づき、お客様を維持するのに役立つ『魅力的な要素』を継続的に追加するためのさまざまなメトリクスを考慮して行われます。AWS は、依存関係なしに物事を迅速に立ち上げるのに役立つ直感的なクラウドネイティブサービスを利用して、ユーザーファーストの文化を促進します。さまざまな AWS テクノロジー製品は、当社がプロトタイプを開発し、大規模であっても非常に迅速に稼働させるのに役立ちます。これにより、当社はスピードが不可欠なマーケットで競争力を得ることができます」

    Dream11、エンジニアリング担当バイスプレジデント、Praveen Jain 氏

    詳細 

ユースケース

ソーシャルメディア

マッチングアプリやクリエイティビティのためのネットワークなどのコンテンツ共有プラットフォームで不適切なコンテンツにさらされることからユーザーを保護します。

ゲーム

ヘイトスピーチ、冒とく的な表現、いじめ、およびゲームスペースの安全性とつながる意欲を低下させる他の行動を防止します。

e コマース

マーケットプレイスとそのユーザーを保護するために、違法または物議を醸す項目や掲載情報をデジタルシェルフに置かないようにしてください。

金融とヘルスケア

機密性の高い個人識別可能情報または健康情報 (PII、PHI) を識別して保護し、社内の基準と慣行 (S&P) を満たし、外部の規制に準拠し、ユーザーのためにデジタルセキュリティを強化します。

教育

学生や教育者からの貢献をモデレーションして、安全かつ包括的で充実した学習体験を構築できるようにします。

広告

コンプライアンスを充足し、ブランド評価の向上や好感度など、収益の成長につながるブランド目標を達成するために、望ましくない関連付けからブランドを保護します。

始める準備はできましたか?

お問い合わせ
お問い合わせ

コンテンツモデレーションの機械学習ソリューションの詳細については、当社までお問い合わせください

お問い合わせ 
パートナーを見つける
パートナーを見つける

グローバルテクノロジーおよびコンサルティングパートナーと連携するには、AWS パートナーネットワークまでご連絡ください

開始方法 
AWS ProServ に問い合わせる
AWS ProServ に問い合わせる

AWS プロフェッショナルサービスは、AWS クラウドを使用して期待するビジネス上の成果を実現するようお客様をサポートできる、エキスパートからなるグローバルチームです

詳細 
Contact us to join the program
AWS ソリューションを選択する

AWS コンテンツモデレーションサービスとソリューションを詳しく見る

詳細 
お客様ご自身で実行
お客様ご自身で実行

AWS コンテンツモデレーションサービスのいずれかを無料で試す

無料で試す 

AWS ソリューションを選択する

AWS ソリューションリファレンスアーキテクチャ

AWS ソリューションリファレンスアーキテクチャは、AWS によって作成されたアーキテクチャ図のコレクションです。アプリケーションに関する規範的なガイダンスと、AWS アカウント内のワークロードをレプリケートするための他の手順を提供します。

AWS におけるコンテンツモデレーションに関するガイダンス

このガイダンスは、メディアライブラリの幅広い理解を効率的に得るためのサーバーレスアーキテクチャであり、貴重なメタデータを分析および抽出し、業界全体で増加するユーザー生成コンテンツや機密情報の流入を緩和します。




詳細はこちら »

機械学習を利用してホットなトピックを発見する

このソリューションは、デジタルアセットを取り込み、ほぼリアルタイムの推論と分析を実行することによって、ブランドを大切にするお客様が、活発に議論されている最も人気のあるトピックを理解するのをサポートします。



詳細はこちら »

AWS Content Analysis

AWS Content Analysis ソリューションは、メディアライブラリをより広く理解し、貴重なメタデータを分析して抽出するのに役立ちます。



詳細はこちら »

AWS ソリューション実装

AWS ソリューション実装は、AWS プラットフォームを使用して、一般的な問題を解決し、より迅速に構築できるように設計されています。すべての AWS ソリューション実装は AWS アーキテクトによって検証されており、高い運用効率、信頼性、安全性、および費用対効果を備えています。各 AWS ソリューション実装には、詳細なアーキテクチャ、デプロイガイドに加え、自動デプロイと手動デプロイの両方の手順が付属しています。

AWS Media2Cloud ソリューション

AWS Media2Cloud ソリューション AWS Media2Cloud ソリューションを利用して、コンテンツを取り込み、動画アセットとそのメタデータをクラウドに移行します。

詳細はこちら »

お客様ご自身で実行

使用開始は無料で簡単です。Amazon は、コンテンツモデレーションワークフローを正常に低コストで実装するために使用できるいくつかの柔軟なアプローチを提供しています。

Amazon Rekognition

AWS 無料利用枠を利用すると、1 か月あたり数千の画像と動画が 12 か月間無料。

コンソールを開く »

Amazon Translate

AWS 無料利用枠を利用すると、1 か月あたり 200 万文字が無料。

コンソールを開く »

Amazon Transcribe

AWS 無料利用枠を利用すると、1 か月あたり 60 分が 12 か月間無料。

コンソールを開く »

Amazon Comprehend

AWS 無料利用枠を利用すると、1 か月あたり 9 つの API ごとに 50,000 ユニットのテキスト、および 5 つのジョブ (それぞれ最大 1MB、12 か月間)。

コンソールを開く »

Amazon A2I

AWS 無料利用枠を利用すると、最初の 12 か月間は 500 個のオブジェクトが無料。

コンソールを開く »

リソース

Streamline Content Moderation Workflows with AI and ML AWS Innovate 2022 (AI と ML を利用したコンテンツモデレーションワークフローの合理化 AWS Innovate 2022) (30:39)
Using Amazon Transcribe to make content searchable and accessible (Amazon Transcribe を使用してコンテンツを検索およびアクセス可能にする) (28:37)
Amazon A2I for human review of ML predictions (人による ML 予測のレビューのための Amazon A2I) (40:45)
Amazon Translate for real-time and neural machine translation (リアルタイムおよびニューラル機械翻訳のための Amazon Translate) (3:22)
機械学習を使用して画像と動画の分析を自動化する Amazon Rekognition リソース