(飜訳にあたっての前書き)以下は、APCのメンバー団体でもある7amleh - The Arab Center for the Advancement of Social MediaによるMETAへの要求を飜訳したものです。以下の声明によると、WhatsAppのAI画像生成機能(単語などを入力してイラストに変換する機能)が、パレスチナの人々への偏見を煽るような傾向をもっていることを厳しく批判し、早急に対処するように求めています。これまでもヘブライ語圏のSNSで、パレスチナの人々に対する深刻な偏見や憎悪が席巻している状況があり、この声明のオーバナイザーである7amkehはこれまでにも繰り返しヘイトスピーチなどへの警告を出してきました。しかし、今回の事態は、英語圏で起きている問題で、英語でPalestineと入力してイラストを生成させるといった場合に、パレスチナの子どもが銃を構えた画像が生成されるなど、顕著な偏見に基づく結果がみられると報じています。

また、以下の抗議声明で言及されているもうひとつの事例、自動飜訳機能で生じた深刻な問題について、声明だけではややわかりにくいので、若干補足します。一部のパレスチナ人のInstagramユーザーの経歴プロフィールに英語で「Palestinian」、パレスチナ国旗の絵文字、アラビア語で「alamdulillah」と書かれたユーザーの場合に、alamdulillahの英語へのInstagramの自動翻訳が 「神よ、パレスチナのテロリストたちは自由のために闘っている」と勝手に訳してしまう、という問題です。これをMETAは単なるバグであると言い訳をしているのですが、原因はAIの言語学習モデルの問題にあり、より深刻であると声明では指摘しています。
(小倉利丸)
注記：当初の「前書き」にはいくつかの事実誤認があったために改稿しました。また訳文にも一部改訂を加えました。

パレスチナ・デジタル権利連合は、Metaに対し、パレスチナ人の非人間化と彼らの声の封殺をやめるよう要求する

執拗な暴力と4つのジュネーブ条約の重大な違反を特徴とする、イスラエル当局によるパレスチナ人に対する残虐行為が激化する中、私たちは、特に危機的状況下におけるパレスチナ人の非人間化の問題について、Metaに訴えることを余儀なくされている。

私たちパレスチナの人権と市民社会組織の集団は、Metaのデジタル・プラットフォームによってパレスチナ人のアイデンティティがいかに非人間化され、沈黙され続けているかに深く驚愕している。執拗な暴力と1949年のジュネーブ条約の重大な違反を特徴とする、イスラエル当局によるパレスチナ人に対する残虐行為が激化する中、私たちは、特に危機の時代に、パレスチナ人の非人間化の問題についてMetaに訴えることを余儀なくされている。

最近、WhatsAppのAI画像生成ツールは「パレスチナ人」と入力すると銃を振り回す子どもの絵文字を作成し、InstagramのAI翻訳モデルはユーザーの経歴紹介の記載で「パレスチナ人الحمد الله」を「パレスチナ人テロリスト」と訳していた。どちらのケースも、根深い問題があることを示している。Metaの生成AIツールは、パレスチナ人の人間性を奪う攻撃的で偏った結果を作り出している。これは、学習データセットの偏りに起因するAIによるパレスチナ人の非人間化が蔓延している、という問題を反映している。これは、パレスチナ人の声が黙殺され続けているという悲惨な現実によって、さらに複雑なものとなっている。Metaのプラットフォームでは、パレスチナ人のコンテンツは不釣り合いに過剰にモデレートされている。さらに、パレスチナ人は、人種差別的で扇動的な言論や暴力の扇動で執拗に標的にされ、必然的に実社会での危害につながっている。

Metaのプラットフォーム上でパレスチナ人が直面している根強い課題を目の当たりにし、私たちはフラストレーションを感じている。パレスチナの市民団体は、Metaのプラットフォーム上で急速にエスカレートしているパレスチナ人に対するデジタル上の権利侵害に対して、何年にもわたって声を上げてきた。昨年、Business for Social Responsibility (BSR)の調査によると、2021年5月、Metaの行為は、"表現の自由、集会の自由、政治参加の自由、非差別に対するパレスチナ人ユーザーの権利、したがって、パレスチナ人が彼らが起きた経験についての情報や洞察を共有する能力に対して、人権に悪影響を及ぼした"。

7amlehの継続的なモニタリングと記録化の努力は、Metaのプラットフォーム上で、パレスチナ人の声、特にジャーナリストや人権擁護者の声が、重大かつ不釣り合いな検閲に直面し、危機の際に到達可能性が制限されていることを示している。これは表現の自由を制限するだけでなく、情報へのアクセスをも妨げている。最近、パレスチナのコンテンツが積極的に過剰モデレートされるようになった主な理由のひとつは、同社が特にアラビア語／パレスチナのコンテンツに対処する前に自動システムが必要とする信頼度の「しきい値」を、80％からわずか25％に引き下げたことだ。

さらに、ヘイトスピーチ、扇動、偽情報はMetaのプラットフォーム全体に拡散し続け、オンライン上のパレスチナ人の声の安全性と尊厳を損なっている。Metaの内部文書によると、ヘブライ語の敵対的言論分類子は、学習するための十分なデータがないため、効果的に機能していないことが確認された。10月7日以降、Palestinian Observinatory for Palestinian Digital Rights Violations (7or)は、Metaの3つのプラットフォームで、暴力の扇動やヘイトスピーチを含む有害なコンテンツが532件あったことを記録した。

私たちはMetaに対し、特にイスラエルによる過激な暴力の際に、パレスチナ人のデジタル上の権利を保護するために直ちに行動を起こすことを要求する。オンラインで人権が守られることを保証し、すべての人々のために安全なプラットフォームを作ることは極めて重要である。Metaはまた、パレスチナ人の声や、世界中のパレスチナ人の人権を擁護する他の人々が、これ以上抑圧されたり、不釣り合いにモデレートされたりしないことを保証しなければならない。コンテンツモデレーションのポリシーと慣行は、国際人権法と国連ビジネスと人権に関する指導原則に沿ったものでなければならない。

Meta に以下を要求する：

AIの偏向をなくす：私たちは、コンテンツモデレーションにおけるAIのトレーニングに使用するすべてのデータセットの即時かつ包括的な監査を要求する。私たちは、MetaのAIモデルに関連する最近の出来事について調査を要求し、これらのデータセットの情報源と特徴に関する完全な透明性を要求し、パレスチナ人の否定的なステレオタイプに関連する懸念に取り組むことを要求する。

パレスチナの声を封殺することをやめること： Metaは、パレスチナ人のコンテンツに不釣り合いな影響を与える過剰なモデレーションを防ぐために、基準としきい値に関する透明性を確保しなければならない。Metaは、"危険な組織と個人 "の分類とモデレーションに関するポリシーの透明性を改善しなければならない。Metaは、パレスチナ人ユーザーの到達範囲を制限したり、彼らの投稿に対するインタラクションやコメントを制限するような施策の実施を中止しなければならない。Metaは、パレスチナ人ジャーナリストが沈黙させられないよう、ニュース価値の例外規定を導入しなければならない。

ヘブライ語によるヘイトスピーチと扇動を止めること： Metaは、ヘブライ語の敵対的およびヘイトスピーチの分類子を完全に作動させることによって、そのプラットフォーム上での憎悪言論と扇動の広がりに終止符を打たなければならない。

結論として、Metaは、AIによる非人間的表現からパレスチナ人コンテンツの不釣り合いなモデレーションに至るまで、同社のプラットフォームを悩ませ続けている根深い偏見を是正するために、即時かつ断固とした行動を取らなければならない。同社はパレスチナの人々の信頼を失うだけでなく、アラブ世界における信頼性を損なうリスクもある。

https://7amleh.org/2023/11/07/palestinian-digital-rights-coalition-call…