人間によるコンテンツモデレーションだけでは、安全上、規制上、および運用上のニーズを満たすようにスケールすることはできません。そのため、ユーザーエクスペリエンスの質が低下し、モデレーションコストが高くなり、ブランドリスクが発生します。機械学習 (ML) を利用したコンテンツモデレーションは、組織が大量の複雑なユーザー生成コンテンツ (UGC) のモデレーションを行い、チームが手動でコンテンツモデレーションを行うために費やす時間の最大 95% を解放するのに役立ちます。
Amazon のコンテンツモデレーションサービスとソリューションは、自動化機能と人工知能 (AI) 機能を提供することで、機械学習の専門知識がなくても、信頼性の高いコンテンツモデレーションのソリューションを実装できます。これらのサービスを利用することで、コンテンツ管理コストを削減し、リスク、責任、ブランドへのダメージから組織を守りながら、ユーザーを有害な露出から守ることができます。
メリット
ユーザーとブランドの安全性を高める
あらゆるコンテンツをプロアクティブにレビューすることで、ユーザーやブランドを望ましくないコンテンツへの露出や関連付けから保護します。
方法 Amazon Rekognition を利用して、事前定義された幅広いカテゴリに照らして、または独自の禁止用語のリストから画像や動画をレビューして大規模にメディアをモデレーションします。Amazon Transcribe を利用して、モデレーション機能を音声ファイルに拡張します。Amazon Comprehend を利用して、有益なインサイトと感情を導き出して理解します。
コンテンツモデレーションオペレーションを合理化する
事前にトレーニングされたカスタマイズ可能な Amazon Rekognition モデレーションモデルやワークフローを利用して、新しいツールを構築したり、インフラストラクチャを管理したりする必要を排除します。
方法 動画のスピーチを Amazon Transcribe を利用してテキストに変換して、冒とく的な表現やヘイトスピーチが含まれていないかを確認します。Amazon Translate のニューラル機械テクノロジーを利用して、複数の言語でテキストをモデレーションします。Amazon Comprehend の自然言語処理 (NLP) 機能を利用して、テキスト分析を拡張します。Amazon Augmented AI (Amazon A2I) と統合して、あらゆる ML ワークフローに関する人間によるレビューを提供します。
信頼性を高めて、コストを削減する
事前の確約や高額なライセンスなしで、信頼性が高く、スケーラブルで、繰り返し可能なクラウドベースのコンテンツモデレーションワークフローを作成します。
方法 AWS 無料利用枠で AWS コンテンツモデレーション AI サービスのいずれかから開始し、必要に応じてスケールします。
お客様事例
-
CoStar Group
-
ディー・エヌ・エー
-
Dream11
-
Mobisocial
-
SmugMug
-
ZOZO
-
CoStar Group
-
CoStar は、商業用不動産情報、分析、テクノロジー、ニュースのリーダーであり、マーケットで最も包括的なデータプラットフォームの 1 つです。同社は、そのプラットフォームに毎日アップロードされる 150,000 を超える画像を処理しています。
サクセスストーリーを読む「CoStar にとっては、インクルーシブかつ安全で、データ駆動型のユーザーコミュニティを実現できるようにするため、当社のプラットフォームにアップロードされた画像が当社のエンドユーザー契約の規定に準拠しており、不適切なコンテンツが含まれていないことが不可欠です。Amazon Rekognition の Content Moderation API により、アップロードされたすべての画像を自動的に分析するソリューションを簡単に構築できるようになりました。これにより、高価値の製品をお客様に効率的に提供できるようになりました。Amazon Rekognition は、事前にトレーニングされた一連のコンピュータビジョン API を提供します。これは、コンテンツモデレーション、テキスト検出、オブジェクト検出とともに、受け取った画像をより見つけやすくし、コミュニティをより包括的にすることで、提供製品のさらなる改善に役立ちます。Amazon Rekognition を利用すると、事前にトレーニングされたモデルを使用して、迅速にアクションを実行し、AI スマートを当社のシステムに追加できるため、不動産セクターに独自のソリューションを提供することに集中できます」
CoStar Group、プリンシパルソフトウェアエンジニア、Mark Osborn 氏
-
ディー・エヌ・エー
-
モバイルゲーム、スポーツ、ライブストリーミング、ヘルスケア、自動車という主なビジネス分野を抱えている日本有数のモバイルゲームおよびインターネットサービス企業であるディー・エヌ・エーは、Voice Pococha というライブオーディオ配信アプリを提供しています。
「音声をテキストに変換するサービスを評価する際に、禁止されている単語を自動的にマスキングすることで、ユーザーにとって安全なコミュニティを生み出すことができるサービスを見出すことに重点を置きました。通常、このように禁止された単語は俗語であり、音声をテキストに変換する標準サービスでは認識されません。Amazon Transcribe とそのカスタム語彙機能を使用すれば、禁止されている用語を識別して編集することができます。将来的には、当社のチームは、Amazon Transcribe やアマゾン ウェブ サービス (AWS) チームなどのサービスのサポートにより、Voice Pococha コミュニティを成長させることを心待ちにしています」
ディー・エヌ・エー、ライブストリーミング事業本部新規戦略室 プロダクトオーナー 野口 拓人 氏、テックリード 中森 雄大 氏
-
Dream11
-
Dream11 を使用すると、ユーザーはグループチャットで動画や写真を投稿したり、画像を共有したりできます。同社は、コンテンツモデレーションプロセスの一環として、Amazon Rekognition を使用して毎日何千ものアセットのメディア分析を自動化し、1 億名のユーザーを保護しながら、魅力的なエクスペリエンスを提供しています。
詳細はこちら「当社によるあらゆる意思決定は、データとテクノロジーに基づき、お客様を維持するのに役立つ『魅力的な要素』を継続的に追加するためのさまざまなメトリクスを考慮して行われます。AWS は、依存関係なしに物事を迅速に立ち上げるのに役立つ直感的なクラウドネイティブサービスを利用して、ユーザーファーストの文化を促進します。さまざまな AWS テクノロジー製品は、当社がプロトタイプを開発し、大規模であっても非常に迅速に稼働させるのに役立ちます。これにより、当社はスピードが不可欠なマーケットで競争力を得ることができます」
Dream11、エンジニアリング担当バイスプレジデント、Praveen Jain 氏
-
Mobisocial
-
Mobisocial は、ソーシャルネットワーキングおよびゲームアプリケーションの構築に注力する大手モバイルソフトウェア会社です。同社は、数千万人のモバイルゲームライブストリーマーと e スポーツプレーヤーが集まってゲームプレイメディアを共有するグローバルコミュニティである Omlet Arcade を開発しています。
「当社のゲームコミュニティが、人々が交流し、楽しいコンテンツを共有するための安全な環境であるようにすることを目的として、当社のコミュニティの基準に準拠していないコンテンツを特定するために、機械学習を利用しました。Amazon Rekognition を利用して、非準拠コンテンツを含むアップロードされた画像および動画コンテンツにフラグを付けるワークフローを作成しました。Amazon Rekognition のコンテンツモデレーション API は、世界中の何百万ものゲームクリエイターのコミュニティを管理するための正確さと規模を実現するのに役立ちます。Amazon Rekognition を実装してから、運用チームが手動でレビューするコンテンツの量が 95% 削減されるとともに、エンジニアリングリソースが解放され、コアビジネスに集中できるようになりました。最新の Rekognition コンテンツモデレーションモデルのアップデートを心待ちにしています。これにより、精度が向上し、モデレーション用の新しいクラスが追加されます」
Mobisocial、シニアアーキテクト、Zehong 氏
-
SmugMug
-
SmugMug は、SmugMug と Flickr の 2 つの非常に大規模なオンライン写真プラットフォームを運営し、1 億人を超えるメンバーが数百億枚の写真を安全に保存、検索、共有、販売しています。Flickr は、フォトグラファーを中心とする世界最大のコミュニティであり、世界中のフォトグラファーがインスピレーションを見つけ、互いにつながり、情熱を世界と共有できるようにしています。
「大規模でグローバルなプラットフォームであるため、望ましくないコンテンツはコミュニティの健全性にとって非常にリスクが高く、フォトグラファーから距離を置かれてしまう可能性があります。Amazon Rekognition のコンテンツモデレーション機能を使用して、不要なコンテンツを見つけて適切にフラグを付け、コミュニティに安全で快適なエクスペリエンスをもたらします。Flickr ほど規模が大きいと、Amazon Rekognition を使用しないでこれを行うことはほぼ不可能です。現在、Amazon Rekognition によるコンテンツのモデレーションのおかげで、当社のプラットフォームは、メンバーの期待により近い素晴らしい写真を自動的に発見し、強調表示することができます。これにより、インスピレーションを与え、つながり、共有するという私たちのミッションを実現できます」
SmugMug、共同創設者、CEO 兼チーフギーク、Don MacAskill 氏
-
ZOZO
-
株式会社 ZOZO は、日本最大のファッション e コマース「ZOZOTOWN」や、スタイリングやコーディネートを共有できる SNS「WEAR」など、ファッション好きのためのさまざまなサービスを所有し運営しています。
「WEAR にはユーザーから毎日多くの画像投稿があり、ユーザーの投稿した画像がサービスガイドラインを遵守出来ているか、一枚ずつ確認する必要がありました。そのため、自動で画像の検査を行うシステムを構築し、そのシステムにおいて Amazon Rekognition の Content Moderation API を利用して、Amazon S3 にあるお客さまの投稿画像を自動分析しています。Amazon Rekognition によって、WEAR で公開可能な画像を自動で認識することで、レビュー作業を最大 40% 削減しました。さらに、担当者が安全な画像かどうか判断できない場合に発生していたエスカレーションなどのコミュニケーションも削減できました」
株式会社 ZOZO、ブランドソリューション開発部エンジニア、重谷優氏
ユースケース
ソーシャルメディア
マッチングアプリやクリエイティビティのためのネットワークなどのコンテンツ共有プラットフォームで不適切なコンテンツにさらされることからユーザーを保護します。
ゲーム
ヘイトスピーチ、冒とく的な表現、いじめ、およびゲームスペースの安全性に関連し意欲を低下させる他の行動を防止します。
e コマース
違法または物議を醸す項目や掲載情報をデジタル棚から排除し、マーケットプレイスとそのユーザーを保護します。
金融とヘルスケア
機密性の高い個人識別可能情報または健康情報 (PII、PHI) を識別して保護し、社内の基準と慣行 (S&P) を満たし、外部の規制に準拠し、ユーザーのためにデジタルセキュリティを強化します。
教育
学生や教育者からの貢献をモデレートして、安全で、包括的な充実した学習体験を構築します。
広告
ブランドを望まない関わりから守り、コンプライアンスを遵守します。また、ブランドの地位向上や好感度向上など、収益拡大につながるブランド目標を達成します。
AWS の注目のソリューション
ビジネスおよび技術的なユースケースに迅速に対応するための専用サービス、AWS ソリューション、パートナーソリューション、ガイダンスを見つけてください。
AWS におけるコンテンツモデレーションに関するガイダンス
このガイダンスは、サーバーレスアーキテクチャを実装して、ユーザー投稿コンテンツや機密情報の流入の増加を効率的に緩和するのに役立ちます。このコンテンツや情報は、ゲーム、ソーシャルメディア、電子商取引、医療や金融サービスなどの規制環境など、さまざまな業界から提供されている可能性があります。
開始方法
AWS ソリューションを選択する
AWS ソリューションリファレンスアーキテクチャは、AWS によって作成されたアーキテクチャ図のコレクションです。アプリケーションに関する規範的なガイダンスと、AWS アカウント内のワークロードをレプリケートするための他の手順を提供します。
AWS におけるコンテンツモデレーションに関するガイダンス
このガイダンスは、メディアライブラリの幅広い理解を効率的に得るためのサーバーレスアーキテクチャであり、貴重なメタデータを分析および抽出し、業界全体で増加するユーザー生成コンテンツや機密情報の流入を緩和します。
このソリューションは、デジタルアセットを取り込み、ほぼリアルタイムの推論と分析を実行することによって、ブランドを大切にするお客様が、活発に議論されている最も人気のあるトピックを理解するのをサポートします。
AWS Content Analysis ソリューションは、メディアライブラリをより広く理解し、貴重なメタデータを分析して抽出するのに役立ちます。
詳細はこちら »
AWS ソリューション実装は、AWS プラットフォームを使用して、一般的な問題を解決し、より迅速に構築できるように設計されています。すべての AWS ソリューション実装は AWS アーキテクトによって検証されており、高い運用効率、信頼性、安全性、および費用対効果を備えています。各 AWS ソリューション実装には、詳細なアーキテクチャ、デプロイガイドに加え、自動デプロイと手動デプロイの両方の手順が付属しています。
AWS Media2Cloud ソリューション AWS Media2Cloud ソリューションを利用して、コンテンツを取り込み、動画アセットとそのメタデータをクラウドに移行します。
お客様ご自身で実行
使用開始は無料で簡単です。Amazon は、コンテンツモデレーションワークフローを正常に低コストで実装するために使用できるいくつかの柔軟なアプローチを提供しています。
AWS 無料利用枠を利用すると、1 か月あたり数千の画像と動画が 12 か月間無料。
AWS 無料利用枠を利用すると、1 か月あたり 200 万文字が無料。
AWS 無料利用枠を利用すると、1 か月あたり 60 分が 12 か月間無料。
AWS 無料利用枠を利用すると、1 か月あたり 9 つの API ごとに 50,000 ユニットのテキスト、および 5 つのジョブ (それぞれ最大 1MB、12 か月間)。
AWS 無料利用枠を利用すると、最初の 12 か月間は 500 個のオブジェクトが無料。
