Life Inside China's Total Surveillance State
Social Credit System Coming To China, With Citizens Scored On Behavior | NBC Nightly News
芝麻信用
『動物と機械から離れて―AIが変える世界と人間の未来』
菅付雅信／著 新潮社 2019年発行
社会の複雑さに人間が追いつかず、AIが追いつこうとする より
AIは民主主義というフィクションを変容させるか
「政治学者の丸山眞男が『戦後民主主義の虚妄に賭ける』と語っていたように、実は近代とは、虚構に頼ってきた危ういアーキテクチャなんです。『自由な主体である個人に自由意志があり、その選択によって社会がつくられる』という民主主義の基盤となる考え方や人為主義は、すべてフィクションです。でも、それは最も魅力的なフィクションと考えられてきたんですよ」
そう語るのは、憲法学者の山本龍彦だ。法学者の大屋雄裕と同じく、民主主義や個人の尊重といった、近代を成立させてきた考え方を「虚構」と言い切る。まるでハラリが「人類は虚構を信じることで繁栄してきた」と『サピエンス全史』で語ったように。
山本は、AIネットワーク社会において、その”最も魅力的な”フィクションがどのように変容していくかを考えている。彼は著書『AIと憲法』にて「法律ではなく、憲法のレベルからAIを考え直すべき」だと社会に提言する。なぜなら憲法とは、前近代的な身分制度を否定し、個人を尊重するという秩序をつくったルールであるからだ。
「AIはビッグデータを基に人々をある集団としてセグメントし、選別していきます。そこでは集団バイアスがかかり、バイアスを含んだ過去データを”学習”してしまうことで、個人が尊重されない判断が下される可能性も出でくるでしょう。たとえば、人権や性別を基にした判断といったものもそれに当たります。しかしそれは、個人の尊重原理に基づく憲法と矛盾する可能性があります。憲法は、AIが計算したセグメントの示す確率によって個人の人生が決定される社会ではなく、個人の自己決定権を重要視する社会を選択していると思うんです」
データやAIの確率的評価によってつくり上げられる＜わたし＞と本当の自分との間にあっギャップが縮滅していき、それが訂正できなくなれば、自分の意志によって主体的に人生をつくり上げることは難しくなっていく。山本は、AIネットワーク社会における個人の尊重が損なわれる危険性をそこに見ている。そして、AIを考える上で憲法に立ち返る重要性を、次のように考える。
「わたしは法の研究者であり、憲法がそのフィクションを維持せよと言うのならば、まずは維持するための方法を考えるのが職責だと思っています。個人の尊厳の否定は、憲法の理想に反する。それでもその世界を選ぶのならば、少なくとも憲法改正が必要ですよね。その場合、AIがつけるスコアを新たな身分とする前近代的な階層社会に戻るという選択肢も存在しますが、わたしたちはそのリスクを果たして受け止められるのか、疑問に思います」
実際、AIが人々を採点するスコアはソーシャル・スコアとも呼ばれ、世界各地で広がっている。中でも一番浸透しているのが中国だ。中国EC界の巨人、アリババが運営する芝麻信用（Sesame Credit）と呼ばれるソーシャル・スコア・サービスは、ネット上の購買履歴やSNSの発信履歴などを基に、その人の信用度を評価し、ランキングする。中国ではなんと9億人がこのサービスを使用しており、ランキングが高い人にはホテルやレストランの予約が優先されるなどの利益があるが、逆にランキングが低い場合は、それらにおいて差別される。英ガーディアン紙の2019年3月1日の記事によると、この１年間で2300万人の中国人が、芝麻信用のランクが低いために飛行機の予約をできなかったと報道されている。
「わたしにとって憲法とは、人々が易きに流れないためのフックになるものなんです。いま、テクノロジーが社会の根幹にまで影響を与えるようになったからこそ、憲法の視点からAIというものを捉え直さなければいけません」
＜わたし＞を取り戻すための「アーキテクチャ」
データの網の目に囚われ、個々が分断された超個人主義を打破するためには、偶然性を生み出す仕組み＝「セレンディ・アーキテクチャ」の設計が重要だと山本は考える。つまり偶然性をはらんだアーキテクチャだ。人々をよりよい方向に導き、民主主義の基盤が再構築され、自由と光復の両立が実現されるような社会を目指すためには、個人の自立性を損なわずに支援するアーキテクチャを構想しなければならない、と。
それには、世界の隅々までを覆い尽くすようなAIアーキテクチャに抗わんとする、個人に寄り添ったAIエージェントが必要になりそうだ。しかし、そのAIエージェントが本当に個人の見方なのかは疑わしい。
AIの活用により高度な監視社会が完成しようとしているなかで、いかに偶然性と自由意志を維持するか。世の事物の多くが既存のパターンの組み合わせで成り立ち、多くの行動がAIに誘導されたほうが安心だという社会が到来しつつある。それも、遠くの未来の話ではなく、中国では既に実装され、日本を含む他の先進国もそのような仕組みを受け入れつつあるのだ。
このように監視された、予測可能性が高い未来社会の姿は、映画『マイノリティー・りポート』を思い起こさせる。フィリップ・K・ディックの原作をスティーブン・スピルバーグが監督し、トム・クルーズが主演した2002年製作のこのSF映画は、2054年の超ハイテク都市となったワシントンDCを舞台に、予防的治安維持機能を遂行する「犯罪予防局」によって、犯罪をする前に市民が逮捕される社会を描く。このシステムで殺人発生率は0パーセントになったと当局は豪語するわけだが、その陰で大きな陰謀が動いているというストーリーだ。
・
映画『マイノリティー・りポート』では、トム・クルーズ演じる主人公、犯罪予防局の刑事ジョンが最後に真犯人に向けてこう語る。「あなたは自分の未来を知っている。そして、自分が望むならそれを変えることができる。まだ選択の余地はあるんだ」と。しかし、わたしたちにその余地はどのくらいあるのだろうか。
