投稿日: Jul 26, 2023
本日、Amazon Transcribe Toxicity Detection を発表いたします。これは ML を活用した音声ベースの毒性検出機能であり、音声とテキストベースの両方の手がかりを利用して有害なコンテンツを識別して分類します。Amazon Transcribe は、音声をテキストに変換する機能をアプリケーションに簡単に追加できるようにする自動音声認識 (ASR) サービスです。Transcribe Toxicity Detection では、テキストに加えて、トーンやピッチなどの音声における手がかりを使用して、音声に含まれる有害な意図に焦点を当てます。有害コンテンツにはフラグが付けられ、セクシャルハラスメント、ヘイトスピーチ、脅迫、虐待、冒とく、侮辱、グラフィックといった 7 つのカテゴリに分類されます。これにより、モデレーターは会話全体を確認するのではなく、焦点を絞って対策を実行できます。
毒性検出は、さまざまな業界で使用されていますが、主にオンラインゲームやソーシャルメディアの分野で使用されています。たとえば、オンラインゲームでは、特にインシデントが報告された場合に、毒性検出を使用してプレイヤー間の音声会話を監視します。通常、人間のモデレーターは長時間の録音を確認し、有害な内容を特定して対応します。Amazon Transcribe Toxicity Detection を使用すると、人間のモデレーターは会話のどの部分で有害な内容が話されているかを正確に把握できるほか、使用された言葉が毒性スコアで分類されます。これにより、コンテンツの視聴に費やす時間が 95% 削減され、モデレーターはより多くの音声を扱えるようになり、有害性が検出されたときに迅速に対応できるようになります。
Amazon Transcribe Toxicity Detection は、バッチ処理機能を備えており、米国英語でご利用いただけるようになりました。この機能は、米国東部 (バージニア北部)、米国東部 (オハイオ)、米国西部 (オレゴン)、アジアパシフィック (シドニー)、欧州 (アイルランド)、欧州 (ロンドン) の AWS リージョンでサポートされています。Toxicity Detection pricing に記載されている追加料金が発生します。詳細については、「Flag harmful language in spoken conversations with Amazon Transcribe Toxicity detection」の投稿および Amazon Transcribe のドキュメントを参照してください。