一般市民が「巨大IT企業」を絶えず監視していないとヤバい理由

「自分にハッキリとした実害が及ばない限り何が問題なのかが見えにくい。そんなブラックボックスなのが、デジタル社会における問題の難しさだといえるかもしれません」と語る内田聖子氏

今や私たちの暮らしに欠かせない存在として、日常生活に便利さや快適さをもたらしてくれるデジタル技術。

一方、そうしたデジタル社会の基礎を支えるビッグテック（巨大IT企業）の影響力が日に日に拡大していることで、大量に集積している個人情報の取り扱いが不透明であるなど、新たな問題も指摘されている。

日々、進化する最新のテクノロジーが社会の姿を大きく変える中で、公正なデジタル社会を実現することは可能なのか？

各国の現状や動きを紹介しつつ、この問いに正面から向き合うのが、内田聖子氏の新刊『デジタル・デモクラシー』だ。

＊　＊　＊

――2018年にGoogleが、創業当時に定めた行動規範から「邪悪になるな」という文言を削除していた......という本書の「まえがき」を読んで衝撃を受けました。内田さんがデジタルデモクラシーというテーマに注目したきっかけは？

内田　私は以前から、自由貿易などのグローバル経済がもたらす不公正の問題について、主に市民運動の視点で取り組んできたのですが、その中でも、ここ数年はデジタル技術に関する課題が非常に大きくなっていると感じていたからです。

もちろん、インターネットを通じたさまざまなサービスや、急激な進化を続けるAIの技術が世の中を便利で快適なものにしているというポジティブな側面は私も否定しません。

しかし、巨大IT企業が牽引する「デジタル経済」が社会を急激に変えていく中で、デジタル技術を活用した国家権力による監視やプライバシーなどの人権侵害、SNSによる人々の分断、偽情報の拡散といったネガティブな側面が無視できなくなっているのも事実です。

また、そうした現状に対する抗議の声が世界各地の市民から湧き起こっているということも知ってほしいと思いました。ただ、残念ながら、日本ではまだこうしたデジタル経済の負の側面に対する関心が低く、こうした問題に取り組んでいる市民団体やNGOもわずかだというのが実情です。

――昨年末までに、サンフランシスコ市など、全米23の自治体（州を含む）で警察など当局による「顔認識技術」の使用の禁止や規制に関する条例が制定されていると知って驚きました。

内田　顔認識技術などを使った警察当局による生体データの収集と利用は、デジタル技術による監視社会化や人権侵害のわかりやすい一例です。

アメリカでは、監視カメラなどを使って多くの顔情報が当局によって収集されており、実際に、それらのデータが特定の人種や宗教を持つ人々に対する不当な監視であったり、AIによる誤認逮捕などの問題につながりました。

こうした動きに対して、市民から「私の顔を返せ」という抗議の声が巻き起こり、アメリカの多くの自治体で、顔認識技術の活用禁止や規制に関する条例が制定されるに至りました。

――ただ、警察当局による顔認識技術の活用も、「それで治安が良くなるなら......」と受け入れる人もいそうです。また、「ビッグテックによる情報の独占は危険だ！」といわれても、「自分の個人情報を守るよりも、デジタル技術がもたらす便利さや快適さを優先したい」と考える人も少なくないような気がします。

内田　確かに、インターネットの閲覧履歴やネット通販の購入履歴などの膨大な個人情報が「デジタル経済」のシステムの中に蓄積され、そのデータの一部が自分のまったく知らないところで活用されたり売買されていたとしても、それによるネガティブな影響を実感しづらいという人は多いと思います。むしろ、自分が興味のある広告ばかり出てくるのは快適かもしれません。

しかし、数年前、就職情報サイトの『リクナビ』が、個別の学生の内定辞退率を数値化し、本人の承諾なくそれを企業に提供していたという問題があったように、自分の情報が知らないところで、自分に不利な形で活用されている恐れもあります。

逆の言い方をすれば、自分にハッキリとした実害が及ばない限り、何が問題なのかが見えにくい。そんなブラックボックスなのが、この問題の難しさだといえるかもしれません。

しかし、本書でもいくつかの具体例を紹介したように、現実には巨大IT企業の影響力がどんどんと大きくなり、急激に進化するAIの存在が私たちの人権や、民主主義という仕組みそのものを揺るがしかねない脅威にもなりつつある。

テクノロジーの進歩を否定するわけではありませんが、デジタル技術を活用しながら、それと同時に公正で民主的な社会を実現するためには、そのための「ルール」や「透明性」「公開性」の担保が不可欠で、あまりにも急激な技術の進歩に対して、制度面の整備が追いついていないというのが問題だと思います。

――巨大IT企業への規制や公正なデジタル社会のためのルール作りは各国で進んでいるのでしょうか？

内田　アメリカは基本的にビジネス優先でデジタル化をどんどん進めて、個別の問題が出てきたら、後追いで法規制を考えるという進め方なのですが、これが全然追いつけていない（笑）。

一方、EUを中心とした欧州は、巨大IT企業に対する法的な規制や個人情報保護のための制度作りに積極的で、EU一般データ保護規則（GDPR）やデジタル・サービス法（DSA）などを整備しています。これには人権の保護だけでなく、アメリカや中国に集中する巨大IT企業を牽制する意図もあると思います。

――日本の現状は？

内田　日本はどちらかというとアメリカ寄りでしたが、近年はEUの動きも参考にしながら、総務省やデジタル庁、個人情報保護委員会、公正取引委員会などがルール作りに取り組んでいます。ただ、有識者会議の結論が玉虫色になるケースが多いのが残念ですね。

その背景には、アメリカのビッグテックによる圧力があるのかもしれませんし、日本社会ではデジタル経済の不公正に関する問題意識が広く共有されておらず、市民からの抗議の声や突き上げが少ない......ということもあるのかもしれない。

だからこそ、本書を通じてデジタル経済の負の側面と、それと闘う市民たちの存在に気づいてほしいと思います。

●内田聖子（うちだ・しょうこ）
NPO法人アジア太平洋資料センター（PARC）共同代表。慶應義塾大学文学部卒業。出版社勤務などを経て2001年より同センター事務局スタッフとなる。自由貿易協定やデジタル政策のウオッチ、政府や国際機関への提言活動などを行なう。共著に『コロナ危機と未来の選択――パンデミック・格差・気候危機への市民社会の提言』（コモンズ、2021年）、編著に『日本の水道をどうする!?――民営化か公共の再生か』（同、2019年）

■『デジタル・デモクラシー　ビッグ・テックを包囲するグローバル市民社会』
地平社　2200円（税込）
デジタル技術を活用したさまざまなサービスや、急激な進化を続けるAIの存在が私たちの社会を大きく変える中、今や国家を超えるほどの影響力を持ち始めているGAFAなどのビッグテック。最新技術を活用した権力による監視と差別がプライバシーや人権を脅かし、膨大な個人情報の収集とその活用が人々を搾取する「デジタル経済」の実態と、テクノロジーに公正と倫理を求めて、世界中で湧き起こる抗議の声を紹介する一冊

★『“本”人襲撃！』は毎週火曜日更新！★