このエントリーをはてなブックマークに追加
foresight_20200507_kazitani_2_main

情報が紐づいた先に権力が生じることの危険性

中国の監視社会はどの国にも起こり得る

[梶谷懐]神戸大学大学院 経済学研究科 教授

世界的にAIの社会実装が進む中で、役人の腐敗や不正を失くすためにAIに統治を任せた方がいいという声を聞くことがあります。中国でもそういう意見はありますね。実際、中国の巨大IT企業で働くエンジニアにもそういう主張の持ち主がいるようです。

さすがに国家の中枢では無理でしょうけれども、交通の規制など庶民に身近なところでは実現できるかもしれません。スマートシティの設計の発想は、人や乗り物の動きをアルゴリズムで制御するというものですよね。それまでは人が交通整理をしていたり、違反切符を切っていたりしていたけれども、そこには必ず恣意的な判断も入り込む。移動効率や安全性の追求といった面だけでなく、人間の判断の偏りをできるだけなくしていこうというところでもAIに期待する声があるのは確かなようです。

中国の市民がAIやシステムによる統治を歓迎する可能性

中国政府が「社会信用システム」の名の下に個人の信用情報の整備を進めていることは前編で触れましたが、これも恣意的な判断を排除することにつながります。

例えば、裁判所の判決を守らなかった人は「信用を失った人」としてブラックリストに載ることになります。このブラックリストは身分証と紐づけられていて、利用に身分証が必要な新幹線や飛行機に乗ることができなくなります。社会のルールを守らない人には社会的懲罰が与えられるということですが、その懲罰の基準がはっきりしていて、恣意的な判断が入る余地がありません。

中国社会は法令順守の意識が日本ほど高くなくて、判決が出たとしてもそれが執行される保証がありません。経済力やコネがあれば、罰金を払わなくても済んでしまうことがあるのです。そこでシステムによって懲罰の実行力を高めることができれば、市民の間の不平等感も払拭できる。そういう意味でAIやシステムによる統治を歓迎する向きは、限定的であるにせよ、実は大きな流れとしてあるのではないか。それは現地でいろいろな人と交流する中で感じることです。


梶谷氏の専門は現代中国経済。
http://www2.kobe-u.ac.jp/~kaikaji/

政府が情報を入手することには特段の制約がない

中国の個人情報を積極的に利用した「監視社会」のあり方は、日本を始めとする多くの国や社会に大きな影響を与えていくかもしれません。

個人情報を吸い上げるスマホアプリや監視カメラ、さらにそこから得られたデータを判断するアルゴリズムを社会に実装していく場合、大まかに市民、企業、政府・国家という3つのアクターがあるわけですが、全世界的に起きている問題の1つはIT企業がビッグデータへのアクセス権を独占することで政府よりも強い権力を持つようになり、人々の行動を制限できるのではないかという点です。

この点に関する危機意識が強く出たのがEUのGDPR* でしょう。日本では個人情報保護法がそれに近いものとして該当しますし、中国でも企業が個人情報を無制限に入手することを制限するサイバーセキュリティ法が2017年から施行されています。どの国でもIT企業の情報独占に対しては政府が介入して、あまり大きな権限を持たせないようにしないといけないという考え方は厳然としてあるわけです。

しかしながら、では政府が介入する力が強すぎた場合にどうするのかという問題は残ります。企業の情報独占には制約をかける枠組みがあるけれども、政府が情報を入手することには特段の制約がないのが各国の現状だからです。

* GDPR
一般データ保護規則。General Data Protection Regulation。

情報の濫用、政府の過度な介入。
我々はそれらを食い止めることができるか

中国の信用スコアは、いまのところ主に金融や中古市場、シェアエコノミーといったビジネス領域で発展・活用されています。その活用は限定的なものであって、例えばそれが政府の言論統制と結びついているわけではありません。

しかし、ユーザーが了解している機能と別のところで個人情報が濫用されないとも限りません。2019年に日本で話題になったリクナビのケースがまさにそうですよね。就職活動をサポートする過程で得た情報を濫用して、個人の了解を得ずに別の形で企業と契約していた。学生にとっては不利益な形で提供していたわけです。

個人が信用できるかどうかの情報が、個人が望まない形で第三者に渡ってしまう可能性が出てくるし、それが信用スコアとリンクしていればより露骨に支障となることも考えられます。その場合にどうするかというと、現段階だと政府が介入を強める以外に解決方法はないと思います。

日本社会でも今後、市民にとってメリットがある信用スコアが民間企業により提供され広がっていく可能性は十分に考えられます。そこで情報の濫用という弊害への懸念が高まれば、政府が介入する度合いが強くなる。そうすると、それが社会統治の方面にも使われていく可能性が出てくる。中国で起きているのはそういうことだと思いますし、中国の状況に日本が近づかないとも限りません。

そのときに、ここまでは介入しないように、と市民が止められればいいですけれども、自分たちが社会を構成し、動かしていくという意識が希薄な日本社会で、果たしてユーザーがそれだけの力を持ち得るかというと疑問が生じます。

「自分の情報を勝手に紐づけるな」という権利

日本ではGAFAに代表される外資系企業がプラットフォーマーとなっているので、企業から政府へと情報が筒抜けになることは考えにくいものの、サービスによっては情報を扱う企業と政府の関係が問題になるでしょう。例えばAIを活用した信用スコアである「ジェイスコア(J.Score)」はみずほ銀行とソフトバンクが共同で開発しています。

一方、日本でも市中に設置された監視カメラの数は増えています。また、マイナンバー制度は個人の納税の情報と身分証を紐づける仕組みといえます。いずれも、中国と同じく犯罪の抑止やマナーの向上、さらには社会サービスの向上に資する面もありますが、プライバシー保護の観点からマイナスの影響を指摘する声もあります。要は、日本においても私たち市民が企業と政府の両方に対して、自らの情報を明け渡すことに意識的である必要がある、ということだと思います。

問題の本質は個々の情報が企業や政府に知られることが怖い、というよりも、ある情報と別の情報がシステマティックに紐づいてしまうことで、そこに権力が生じることです。中国では裁判所の記録が交通システムの情報と紐づけられていますが、これは「紐づけてもいいですか」ということを市民に確認しないまま、勝手に紐づけているわけです。市民による「情報を勝手に紐づけるな」という権利が、これから重要になってくるのかもしれません。

中国の経済・社会の動向や、国家の監視役を誰が果たすかという問いについては、若林恵氏の取材記事でも語られている。

前編「デジタル社会のガバナンスで重視される『分散主義』」
https://www.worksight.jp/issues/1529.html

中編「腐敗のない公平な社会をAIがつくる?」
https://www.worksight.jp/issues/1531.html

後編「社会の重心は中央から『地方』『ネットワーク』へシフトする」
https://www.worksight.jp/issues/1533.html

新型コロナウイルスに関連して、調査報道が復活する動きも

中国がこれからどう変化するかは分かりません。特に今回のコロナウイルスの問題は非常に大きな問題で、これをきっかけに統治体制や社会のあり方が方向転換を余儀なくされる可能性もあります。

現時点(2020年2月)では情報も不足していますし、まだ何とも言えないところではありますが、それまで完全に押さえつけられていた政府批判の声がインターネットやSNSで出てきていることには注目したいと思います。政府の厳しい言論統制が情報隠蔽を招き感染拡大につながったとして、清華大学教授である許章潤さんをはじめとしたリベラル派知識人が連名で文書を出したり、一部のメディアや市民ジャーナリストが調査や取材を通じて武漢市の切迫した情報を伝えたりと、21世紀の最初の10年に見られたような自由なネット言論が一時的に復活したような印象すら受けます。

中国のメディアでは『財新周刊』がその筆頭でしょう。経済報道を主体としたリベラル派の独立系メディアで、有力な政治家が後ろ盾になっていることもあり、2010年の創刊以来、いまでも気を吐いています。前編で触れた政府の対応を告発した眼科医、李文亮さんの独占インタビューを掲載したのも財新です。こうした報道姿勢がどこまで許されるのかということは大きな関心事です。

中国当局としては、国家の威光に決定的なダメージを与えない程度に民衆のガス抜きをする必要があると考えている側面があります。そもそも国内の言論活動を全て中央政府が采配しているわけではないので、地方レベルや現場のさじ加減によっても統制の状況は左右されます。いまはカオスな状態だと思いますが、この混乱が社会の大きな変化をもたらすような可能性がないとも限りません。引き続き中国の動向を注視していきたいと思っています。

WEB限定コンテンツ
(2020.2.18 神戸大学 六甲台第一キャンパスにて取材)

text: Yoshie Kaneko
photo: Yoshiro Masuda

梶谷懐(かじたに・かい)

1970年、大阪府生まれ。神戸大学大学院経済学研究科教授。神戸大学経済学部卒業後、中国人民大学に留学(財政金融学院)、2001年神戸大学大学院経済学研究科博士課程修了(経済学)。神戸学院大学経済学部准教授などを経て、2014年より現職。著書に『「壁と卵」の現代中国論』(人文書院)、『現代中国の財政金融システム』(名古屋大学出版会、大平正芳記念賞)、『日本と中国、「脱近代」の誘惑』(太田出版)、『中国経済講義』(中公新書)、『幸福な監視国家・中国 』(NHK出版新書、共著)、『新・図説 中国近現代史〔改訂版〕: 日中新時代の見取図』(法律文化社、共著)など。

  • このエントリーをはてなブックマークに追加

RELATIVE 関連する記事

最大多数の最大幸福を追求する中国のハイテク監視社会

[梶谷懐]神戸大学大学院 経済学研究科 教授

RECOMMENDEDおすすめの記事

コミュニティを育み、委ねるコワーキングの原点

[Citizen Space]San Francisco, California, USA

マネジメント層は「Jリーグ化」せよ

[藤本隆宏]東京大学大学院経済学研究科 教授

ドイツ発「インダストリー4.0」が製造業を変える

[尾木蔵人]三菱UFJリサーチ&コンサルティング株式会社 国際営業部副部長

TOPPAGE