じじぃの「あなたは運転手のいない自動運転車に乗りたいですか?AI2045」

Autonomous Intersection Management: Traffic Control for the Future 動画 YouTube
https://www.youtube.com/watch?time_continue=40&v=4pbAI40dK0A
Self Driving Car in the City

『AI2045』 日本経済新聞社/編 日経プレミアシリーズ 2018年発行
エビデンス】 AI、国の対立あおる危険も より
「インターネットに非常に似ているが、人工知能(AI)の方がいろいろなものに予想外に大きな影響を与えるだろう」。次世代技術の研究で知られる米マサチューセッツ工科大学(MIT)メディアラボを率いる伊藤穣一所長は、AIが及ぼすインパクトをこう予想する。人々の利便性が増す一方で、「AIは人間の悪い部分もそのまま増幅してしまう」とも警鐘を鳴らす。
AIはデータをもとに自ら学習することで人間の手を借りずに賢くなり、加速度的に知性を増すとされる。伊藤氏は「データを与えるのは人間。そこにはバイアスがかかっているため、差別や過度なナショナリズムなど、今ある人間の社会の悪い側面を増幅しかねない」と語る。例えば軍事目的でAIが多用されれば、特定の民族や国を恣意的に攻撃する傾向が次第に強まり、人種や国家間の立率をあおって負の連鎖を生むシナリオもありうる。
一方、AIが利便性をもたらす典型例ともいえる「自動運転」も、難しい問題をはらむ。
MITメディアラボは2016年、自動運転車を題材にした意識調査を行った。以下のシチュエーションで、AIはどう判断するようにプログラミングすべきか?
1人の運転手を乗せた自動運転車がこのまま道なりに走り続けると、10人の歩行者をはねてしまうことが確実だ。
(1)急ハンドルを切って運転手が犠牲になる
(2)そのまま走って歩行者が犠牲になる。
(1)か(2)を選ばせたところ、78%の人が(1)を選んだという。一方で、このように「実利的」なアルゴリズムで動く自動運転車に乗りたいかと問われると、「自分は乗りたくない」と答えた人が多数派だった。乗る側に立つか、歩行者側に立つかでも人の見方は大きく異なる。
このような倫理問題がからむ分野では特に、AIの利用を前提として社会全体をデザインする発想が必要だと伊藤氏は強調する。「コンピューターサイエンスの技術者だけでなく、哲学者や人類学者、法学者などを巻き込んで、Aと社会をつなぐ研究を積極的に深めなければならない」
伊藤氏の立ち位置は、2045年にAIが人知を超え、豊かで明るい未来が到達すると唱える「シンギュラリティー楽観論者」とは一線を画す。こうした問題意識は伊藤氏のこれまでのあゆみとも重なる。草創期からネット業界に携わり、起業家としての活動のかたわら、ドメイン名やIPアぢレスの管理やネット上での著作権ルールといった国境を越えた非営利的な取り組みでも手腕を発揮してきた。
あらゆる産業や社会の構造を揺さぶる潜在力を秘めたAI。一種の公共財として扱う必要性に迫られている。