顔認識法についての考察

顔認識テクノロジーは、写真と動画で人物または物を識別するためにかかる時間を大幅に短縮します。このため、顔認識はビジネス目的のための強力なツールとなりますが、同様に、法執行機関と政府機関にとっても犯罪者の逮捕、犯罪の防止、および行方不明者の発見において重要です。私たちは、人身売買の防止、行方不明の子供の両親との再会、アクセスの自動化による施設の物理的セキュリティの強化、およびインターネット上に掲載された不快で違法な画像の削除のための抑制にこのテクノロジーが使われているのをすでに目にしています。私たちのコミュニティは、ツールキットに顔認識テクノロジーを含む最新テクノロジーを備え持つときにより安全になり、緊急時に援助するためのより良い態勢を整えることができます。

この数ヵ月、顔認識が差別待遇のために使用され、公民権を侵害する恐れがあるという懸念が提起されています。Amazon Rekognition がいかに差別待遇のために使用され得るかを指摘しようと試みた外部グループによるこのサービスのテストについて、いくらかお読みになった方もおられるかと思います。AWS では、その都度このサービスが適切に使用されていなかったことを立証してきました。サービスを正しく使用してこれらのテストを再現したときは、人による手作業のプロセスと比較すると、顔認識が実際に、正確さを高めて偏見を排除する非常に価値のあるツールであることを明らかにしました。これらのグループはそのトレーニングデータとテストパラメーターの公開を拒否していますが、私たちには、AWS のアルゴリズムの正確なテストと改善において連携する用意ができており、これらのアルゴリズムは AWS のチームが毎月強化させ続けています。

Amazon Rekognition を提供してきた 2 年以上の間、法執行機関による誤用の報告を受けたことは一度もありません。これまでの確固たる実績があるといえども、私たちは、顔認識テクノロジーが差別待遇のために使用されないことを確実にするための監視とガイドラインの確立を人々が望む理由も理解しています。私たちは、個人の公民権を保護し、政府が顔認識テクノロジーの使用を透明化することを確実にする、適切な国家の法的枠組みを求める声をサポートします。

過去数ヵ月の間、私たちは、顔認識のメリットと潜在的なリスクとのバランスを取る最良の方法を理解するために、お客様、研究者、学者、政策立案者、およびその他の人々と話してきました。どのような法律についても、それが公民権を保護すると同時に、継続的なイノベーションとテクノロジーの実用的な応用を可能にすることが非常に重要です。これらの話し合いは、このテクノロジーの責任ある使用に対する AWS のガイドライン案の策定につながりました。今日はこのガイドラインをご紹介したいと思います。AWS は政策立案者に対して、これらのガイドラインを法律案として考慮することを奨励しており、米国およびその他の国々で規則が検討されています。

1.顔認識は、常に公民権を保護するものを含む法律に従って使用されるべきである。

顔認識テクノロジーの使用は、公民権を保護する法律を含むすべての法律に従う必要があります。現行法 (例えば、1964 年公民権法と憲法修正第 4 条) が適用され、状況によってはこのテクノロジーの使用が制限される場合があることに関して、曖昧さがまったくないようにしなければなりません。

AWS のお客様は、このテクノロジーの使用方法において法律に従う責任を負います。AWS 利用規約 (AUP) は、法律に違反する AWS サービス (Amazon Rekognition を含む) の使用を禁じており、この AUP に違反するお客様は AWS のサービスを使用できなくなります。現行法が顔認識テクノロジーにどのように適用されるべきかについての曖昧性または不確実性が存在する可能性がある限り、私たちは、これらの法律の適切な適用を明確化するためのガイドラインと法律を策定する分野を識別することにおいて、引き続き政策立案者と国会議員にサポートを提供していきます。

2.法執行機関で顔認識テクノロジーが使用される場合、人による見直しは、判断を行うための予測の使用が公民権を侵害しないことを確実にするために必要な要素である。

顔認識は、一致する可能性のある何十万人もの人から、一握りの人数まで「選択の幅を狭める」ために使用されることがよくあります。この機能こそが、人間が行うとはるかに長い時間がかかるタスクの完了をより簡単に、より効率的にすることによって、さまざまな面で社会に利益をもたらす機能です。しかし、顔認識は、人の公民権を侵害する結果を生じる可能性がある、完全に自動化された最終的な判断を行うために使用されるべきではありません。これらの状況では、権利が侵害されないことを確実にするために、人間による顔認識結果の見直しが行われなければなりません。

例えば、犯罪捜査における容疑者の特定に顔認識を使用する法執行機関はいずれも、一致した人物を尋問したり拘束したりする判断を行う前に、法執行官がその個人を手作業で見直す必要があります。いかなる場合においても、顔認識の一致は他の有力な証拠に照らして評価されるべきで、法的措置を講じるための唯一の決定要因として使用されてはなりません。その一方、携帯電話のロック解除、またはセキュアな私有のオフィスビルへの立ち入りのための社員の ID 認証に顔認識が使用される場合、これらの判断が個人の公民権を侵害しないことから、手作業による監査は必要ありません。

3.顔認識テクノロジーが身元確認のために法執行機関によって使用される場合、または市民的自由を脅かし得る方法で使用される場合は、99% の信頼性スコアのしきい値が推奨される。

信頼性スコアは、顔認識システムがそれ自体の結果に置く信頼度を測る基準として考えることができ、信頼性スコアが高ければ高いほど、結果への信頼度も高くなります。犯罪捜査における容疑者の特定に顔認識を使用する場合、法執行機関は推奨されている 99% の信頼度しきい値を使用し、これらの予測を唯一の決定要因ではなく、あくまでも捜査の一要素として使用すべきです。

4.法執行機関は、顔認識テクノロジーの使用方法において高い透明性を保つ必要がある。

法執行機関による顔認識の責任ある使用に関して公衆における最も高い信頼を生み出すためにも、AWS は法執行組織に対して、このテクノロジーの使用についての透明性を高く保ち、定期的な透明性レポートでこの使用を説明することを奨励しています。このようなレポートには、顔認識テクノロジーが使用される場合と方法、および市民のプライバシーと公民権を保護するために策定された詳しい防衛手段を記載する必要があります。

このタイプの報告は、治安と公民権に関する懸念とのバランスを取るために役立ち、顔認識テクノロジーの法執行機関による使用に対する効果的な監視と説明責任を可能にするためにも役立ちます。AWS はこれからも、これらのレポートと、それらの提供方法の定義を援助するために、政策立案者、市民社会グループとローカルコミュニティグループ、そして法執行機関のお客様と交流していきます。

5.公共の場、または商業環境でビデオ監視と顔認識テクノロジーが併用されるときは、その通知が掲示されるべきである。

公共の場、または商業環境に関連した顔認識テクノロジーとその使用可能性についての懸念が生じています。多くの場合、これらの懸念はすでに、公共施設、またはショッピングセンターやレストランなどの商業施設でのビデオカメラの使用を規制する法律を有する州によって対処されています。AWS　は、顔認識を含むビデオ監視が使用されるこれらの施設における、書面での目に見える通知の活用をサポートしています。

AWS は、公共施設、または商業施設のビデオおよび写真による監視を介した顔認識を対象とする国家の法的枠組みの制定もサポートしており、既存のビデオ監視法を見直して更新すべきかどうかについて掘り下げる公の場での議論や討論を奨励しています。顔認識テクノロジーとビデオ/写真監視が、同じ通知フレームワークの対象となるべきだというのが私たちの考えです。

標準化されたテスト

AWS はこれまで常に、そしてこれからも同様に、顔認識テクノロジーからバイアスを取り除くことで正確性の向上を図る標準化されたテスト手法の開発に対する投資を支持し、この投資に尽力していきます。

明確なベンチマークとテスト手法を確立する技術標準は、ソフトウェアでの設計問題に対応するための実証された方法であり、私たちは、この件に関しても同じように当てはまると確信しています。AWS は、クラウドベースの顔認識ソフトウェアに対応するテストを開発するための米国立標準技術研究所 (NIST)、およびその他一般に認められている独立研究機関と標準化団体による取り組みを含めた、NIST のような組織による顔認識テクノロジーのための独立した標準の策定を奨励し、サポートしています。私たちは、NIST とその他利害関係者との関わりを持ち、この取り組みに対する直接的な援助を提供しています。顔認識サービスに関する独立した信頼のおける基準、ベンチマーク、および評価プロトコルを確立する学界のメンバーによる取り組みもサポートしています。テクノロジー業界、政府、および学界からのその他のグループに対して、これらのイニシアチブをサポートし、参加するように奨励しています。また、これらのトピックに関心がある研究者を AWS Machine Learning Research 助成金に応募するよう招待しています。この助成金を通じて、私たちはこの分野における多数の研究イニシアチブに資金を提供しています。

将来に向けて

新しいテクノロジーは、誤用の可能性のために禁止されたり非難されたりするべきではありません。その代わりに、そのテクノロジーが適切に応用され、継続的に強化されることを確実にするために、関与するすべての当事者の間で率直、正直、かつ真剣な話し合いが持たれるべきです。AWS は、AWS のテクノロジーが極めて正確であり、バイアスを削減できるように多くのリソースを割いており、これには性別、人種、民族、文化、および宗教における多様性を反映するトレーニングデータセットの使用が含まれます。また、ベストプラクティスについての教育をお客様に提供すること、そして AWS のテクノロジー開発チームにおける多種多様な見解の確保にも尽力しています。AWS はこれからも引き続き、業界、政府、学界、そしてコミュニティの各グループにまたがるパートナーと連携していきます。顔認識が、ビジネス、政府、および法執行機関の使用に対して、重要で、不可欠でさえもあるツールであると確信しているからです。

– AWS グローバルパブリックポリシー VP、マイケル・パンク