JCA-NETは下記の国際共同公開書簡に署名しました。現在、欧州議会では、顔認識機能などの機器を公共の場で用いることに関する法的な規制を検討しています。日本では、監視カメラをはじめとして、公共空間での生体情報を取得可能な様々な機器が野放し状態になっており、国土交通省など政府や警察は、防犯や治安維持名目で、交通機関や街頭次々と監視カメラの設置を進めています。今回の署名運動の発起団体Reclaim Your Faceは、主に顔認識などの生体情報テクノロジーによる大量監視に反対する国際的なネットワークです。


英語原文
(国際共同公開書簡)欧州議会におけるIMCO（域内市場）およびLIBE（市民的自由）委員会宛て公開書簡

ブリュッセル、 2022年5月10日

欧州議会の議員の皆様。

私たち51の団体は、本日、あなたに以下について要請するための書簡を送ります： あなたは、私たちの権利を守るために、人工知能法におけるバイオメトリックによる大量監視を禁止のために立ち上がる意志を持たれているのでしょうか？

欧州および世界各国において、公的にアクセス可能な空間での顔認識などの遠隔生体認証（RBI）システムの使用が基本的権利と民主主義に対するこれまでで最大の脅威の一つとなっています。

このようなシステムの遠隔使用は、公共の場での匿名の可能性を破壊し、プライバシーとデータ保護の権利、表現の自由の権利、集会と結社の自由の権利（抗議行動の犯罪化につながり、萎縮効果をもたらします）、そして平等と非差別の権利の根本を損ないます。

公共の場でこれらのテクノロジーの遠隔使用を全面的に禁止しなければ、私たちが権利を行使し、コミュニティとして集うすべての場所が、私たち全員を容疑者として扱う集団監視の場と化してしまいます。

このような被害は仮定の話ではありません。ウイグル人イスラム教徒は、中国政府によって、顔認識を使って組織的に迫害されてきました。ロシア、セルビア、香港では、民主化運動の活動家や政敵が、公にアクセス可能な空間でのRBIの使用によって弾圧されたり標的にされ、使用されているのではという恐怖心もあります。また、世界中で多くの人々が不当に、そしてトラウマになるような形で逮捕されています。[1]

このような使用とその危害が増え続けていることに対して、人々は抗議し、禁止を訴えています。米国の24以上の州が、顔認識やその他のバイオメトリクスによる集団監視に反対する措置をとっています。南米では、サンパウロとブエノスアイレスで最近、顔認識システムの停止を命じる判決が下されました。

マイクロソフト、アマゾン、IBMといった世界最大の生体監視システムのプロバイダーは、そのシステムが大きなリスクと危害をもたらすことを認識し、自らモラトリアムを採用し、フェイスブックは大量の顔画像データベースを削除しています。

EUのデータ保護法では生体データは強力に保護されているにもかかわらず、企業や公的機関が顔認識やその他の生体システムを使用する根拠として、「同意」や不明瞭なセキュリティ上の正当化を組織的に悪用し、本質的にバランスのとれない大量監視を行っているのが現状です。

●世界中の民主主義諸国が地域社会を守るための措置を講じている一方で、EUは逆の方向に進んでいます。

危険な現状に歯止めをかけるために、AI法には明確で曖昧さのない禁止規定が必要であると考えます。[2] 2021年、欧州議会は刑法におけるAIの報告書ののなかで生体大量監視行為に反対する強力な姿勢を採択し、次のように求めています。「公にアクセス可能な空間での大量監視につながる、法執行を目的とした顔画像を含む生体データのあらゆる処理の禁止」（第31条）。

●AI法は、この重要な欧州議会の決議を、拘束力があり影響力のある法律に移すための確実な方法です。

さらなる行動の緊急性は、EU加盟国レベルでも認識されています。イタリアは、ヨーロッパで初めて公的な顔認識のモラトリアムを導入しました。ドイツの連立政権は、バイオメトリクスによる大規模な監視行為をEU全体で禁止するよう求めています。ポルトガルは、一部の生体大量監視行為を合法化するはずだった法律を取り下げました。そしてベルギー議会は、生体監視のモラトリアムを検討しています。

●皆さんは、（正しい）歴史的な偉業を成し遂げることができるでしょうか？

欧州の住民が組織的に大規模な生体監視行為を受けてきたという重大な証拠がすでに存在します。サッカーファンから、学校の子どもたち、通勤客、買い物客、LGBTQ+のバーや礼拝所を訪れる人々まで、その危害は現実のものであり、広く浸透しています。「顔を取り戻せReclaim Your Face」キャンペーンを通じて、7万人を超えるEU市民が、非民主的で有害な生体認証システムから私たちをよりよく保護するよう、あなたと仲間の議員に働きかけています。

世界中で、ブルンジから台湾まで200以上の市民社会団体が、生体情報監視の世界的な禁止を求める書簡に署名しています。人工知能を包括的に規制する最初の地域として、EUの行動（あるいは不作為）は、世界のあらゆる場所で生体情報の大量監視の慣行に大きな影響を及ぼすことになるでしょう。

米国の何十もの州が、顔認識を利用した「ブラック・ライブズ・マター」のデモ参加者の弾圧といった恐るべき失敗から学んでいる一方で、インド、中国、ロシアの政府は逆の方向に動いています。EUは、テクノロジーによる権威主義的な監視を正当化するのか、それとも基本的権利を選択するのか、歴史のどちらにつくのでしょうか。

●AI法でこれを実現するにはどうすればいいのか？

AI法は、公的にアクセス可能な空間における生体認証（RBI）の遠隔操作的利用（すなわち全般的な監視）をすべて禁止しなければなりません。このことは、スマートフォンのロックを解除したり、ePassportのゲートを利用したりするような用途は禁止されない、ということを意味しています。第5条1項d号はすでにRBIの一部の利用を禁止することを目的としていますが、その範囲は非常に狭く、多くの例外を含んでいるため、実際には既存のデータ保護規則ですでに禁止されているはずの行為に法的根拠を与えているに過ぎません。

●したがって、私たちは、第5条1項(d)について[3]、以下のような修正提案を要請します。

  • 禁止の範囲を拡大し、公的主体だけでなく、すべての私的主体を対象とする。
  • RBIのすべての利用（リアルタイムか事後かを問わず）を禁止事項に含むようにする。
  • 独立した人権評価が、既存のEU基本権基準を満たしていない、と確認した禁止の例外規定を削除する。

    生体情報の保護に対する包括的なアプローチを確保するために、私たちはさらに、AI法が提供する機会を利用して、差別的または操作的な生体情報の分類をやめ、情動認識のリスクに適切に対処することを強く求めます。

    EUは、AIの「信頼と卓越のエコシステム」を構築し、信頼できるAIで世界をリードすることを目指しています。これらの目的を達成することは、信頼を損ない、私たちの権利を侵害し、私たちの公共空間を監視の悪夢に変えるようなAIのアプリケーションに歯止めをかけることを意味します。私たちは、この強力なテクノロジーの最も危険な応用を阻止する一方で、人々のために本当に役立つAIを推進することもできます。

    だからこそ、EUのとるべき道は、真に人々を中心に据え、生体大量監視の実践を確実に禁止するAI法に関するIMCO-LIBE報告書の修正案を打ち出すことでなければならないのです。

    注
    [1]例えば以下を参照。 https://www.aclu.org/news/privacy-technology/i-did-nothing-wrong-i-was-…; https://www.nytimes.com/2020/12/29/technology/facial-recognition-miside…; https://www.wired.com/story/wrongful-arrests-ai-derailed-3-mens-lives/; https://edri.org/our-work/dangerous-by-design-a-cautionary-tale-about-f…; https://www.law.georgetown.edu/privacy-technology-center/publications/g…
    [2] 一般データ保護規則(GDPR)の第9条第4項では、生体データの追加的な保護を予見しています。「加盟国は、... 生体データの処理に関して、制限を含むさらなる条件を維持または導入することができる」
    [3] これは、「遠隔」使用事例を、カメラやデバイスが離れた場所に設置され、複数の人をスキャンする能力があると定義し、理論的には、本人が知らないうちにそのうちの一人または複数を特定できるものとしてより明確に定義する新たな条文の説明Recitalによって補強されなければなりません。警告表示は、このような定義を無効にするものではありません。

    署名
    Reclaim Your Face

    団体署名
    Access Now (International)
    AlgorithmWatch (European)
    Alternatif Bilisim (AIA- Alternative Informatics Association) (Turkey)
    anna elbe - Weitblick für Hamburg (Germany)
    ARTICLE 19: Global Campaign for Free Expression (International)
    Asociatia pentru Tehnologie si Internet - ApTI (Romania)
    Barracón Digital (Honduras)
    Big Brother Watch (UK)
    Bits of Freedom (the Netherlands)
    Blueprint for Free Speech (International)
    Center for Civil Liberties (Ukraine)
    Chaos Computer Club (Germany)
    Civil Liberties Union for Europe (European)
    D3 - Defesa dos Direitos Digitais (Portugal)
    Digital Rights Watch (Australia)
    Digitalcourage (Germany)
    Digitale Freiheit (Germany)
    Digitale Gesellschaft (Germany)
    Digitale Gesellschaft CH (Switzerland)
    Državljan D / Citizen D (Slovenia / European)
    Eticas Foundation (European / International)
    European Center For Not-For-Profit Law Stichting (ECNL) (European)
    European Digital Rights (EDRi) (International)
    European Disability Forum (EDF) (European)
    Fachbereich Informatik und Gesellschaft, Gesellschaft für Informatik e.V. (Germany)
    Fair Trials (International)
    Fight for the Future (United States)
    Football Supporters Europe (FSE) (European)
    Hermes Center (Italy)
    Homo Digitalis (Greece)
    Internet Law Reform Dialogue (iLaw) (Thailand)
    Internet Protection Society (Russia / European)
    Intersection Association for Rights and Freedoms (Tunisia)
    IT-Pol Denmark (Denmark)
    Iuridicum Remedium (IuRe) (Czech Republic)
    JCA-NET (Japan)
    Korean Progressive Network Jinbonet (Republic of Korea)
    La Quadrature du Net (France)
    Lady Lawyer Foundation (International)
    LaLibre.net Tecnologías Counitarias (Ecuador / Latin America)
    Ligue des droits de l'Homme (LDH) (France)
    Ligue des droits humains (Belgium)
    LOAD e.V. - Association for liberal internet policy (Germany)
    Masaar - Technology and Law Community (Egypt)
    Panoptykon Foundation (Poland)
    Privacy International (International)
    Privacy Network (Italy)
    Statewatch (Europe)
    Usuarios Digitales (Ecuador)
    Wikimedia Deutschland (Germany / European)
    Wikimedia France (France / European)

    個人署名

    Douwe Korff, Emeritus Professor of International Law
    Dr Vita Peacock, Anthropologist