じじぃの「カオス・地球_182_小川和也・人類滅亡2つのシナリオ・第3章・認知のバイアス」

「自分は正しい」と思ってしまう、確証バイアスとは？（藤田政博先生の『サクッとわかるビジネス教養　認知バイアス』ミニ講座）

動画　YouTube
https://www.youtube.com/watch?v=6W6rTiwiecU

認知バイアスを理解し、公平な中学校の先生を目指す

2019.01.26　応援の空
●認知バイアスとは
例えば誰かに何かを指摘されたとき、言われる人によって、捉え方が変わることはないでしょうか。
「信頼している先生」から言われれば、「確かにそうだなぁ」と感じます。
「嫌いな先生」から言われると、「お前に言われたくない」と感じます。
これは「認知バイアス」がある状態です。
認知バイアスとは、思い込みや先入観によって、同じことを言われても（同じ現象があっても）、受け取り方に偏りがある（判断が歪められる）ことをいいます。
「あるからダメ」、「ないからいい」という話ではありません。
https://sensei-awesome.com/2019/01/26/bias/

朝日新書　人類滅亡2つのシナリオ―AIと遺伝子操作が悪用された未来

【目次】
はじめに
第1章　AIによる滅亡シナリオ
第2章　ゲノム編集による滅亡シナリオ

第3章　科学と影のメカニズム

第4章　“終末”を避けるために何ができるか

- - - - -

『人類滅亡2つのシナリオ―AIと遺伝子操作が悪用された未来』

小川和也／著　朝日新書　2023年発行

画期的なテクノロジーほど、暗転したときのリスクは大きい。特にAIとゲノム編集技術は強力で、取扱いを誤れば、人類に破滅をもたらす因子となりうる。「制度設計の不備」と「科学への欲望」がもたらす、人類最悪のシナリオとは。

はじめにより

本書における「人類滅亡」は、特に最後の3つに焦点を当てている。

近年、「人間」「人類」の解釈は各分野の専門家の間でも揺れており、「ポストヒューマン」を人間とみなすか否かについての議論も分かれる。それこそが、AIやゲノムテクノロジーが人類の概念にまで影響を与え始めた証でもある。

まだ多くの議論の余地は残されているが、本書では、あえて「現生人類としてのホモ・サピエンスが甚だしく遺伝子改変された状態」を種の延長線上に置かず、「現生人類の終焉」を人類滅亡と解釈することをシナリオの前提とした。それくらいシビアに受け止めるべき分岐点に人類が立たされていると認識し、戒めとするためだ。

こうした定義と前提をもとに、本書では、歴史上の出来事や状況を踏まえ、未来の事象がどう変わっていくかを調査・推論する学問分野である未来学の視点で、最悪な未来＝人類滅亡までのプロセスを示していく。その上で、最悪な未来を回避するためのアプローチを提案したい。それが本書執筆の動機となっている。

AIは「人工」であり、ゲノムテクノロジーは「操作」である。結局は、いずれも人間が主語だ。未来に人類の運命を委ねるのではなく、人類がより良い未来を作らなければならない。

本書で提示するシナリオを、未来で実現させてはならない。
たとえ、一部の人間の悪意、悪意なき悪意であっても、それが束になり始めると、制御する難度が上がってしまう。その束を作らず、人類滅亡のシナリオを絵空事で終わらせるためにも、どうか多くの人に読んでいただきたい。

第3章　科学と影のメカニズムより

一元論と二元論

性善論と性悪論があるとしても、そもそも、善と悪の区分や、何が善で何が悪かという解釈も、観点によって違ってくる。一元論と二元論は、その典型である。
　　　　・
一元論は状態、二元論は変化に視点を置いている。性善論や性悪論のように、一元論は、人間の性質は基本的に同じであると捉え、同一性に着眼する。「人間はすべて善である」「人間はすべて悪である」というように、「すべての人間はこうである」と一元化する。すべての人間を同一に扱うことで、全体適応力のある社会的な政策を作りやすいため、一元論は政治や社会と結びつきやすい。

二元論は、状態や性質は変化するという前提でものを見る。「陰と陽」や「春夏秋冬」のような変化に目を向け、そこにうまく適応するということで、生き抜く上で効果的な概念となる。個人や個性のように、違いをうまく使うという発想と結びつきやすい。

結局のところ、一元論も二元論も、どちらが正しい、どちらが悪いと断定する尺度ではなく、ものの見方でしかない。状態に目を向ければ一元論になり、変化に目を向ければ二元論になる。これらに則れば、性善説・性悪説も、1つの限られた社会でしか通用しない発想ということになり、すべての人類に当てはめることができない。

だからこそ、科学技術が坂から滑り落ちることを世界が一丸となって防ぐことは難しい。

バイアスが生む「悪意なき悪意」

悪気のないつもりの一言が、うっかり人を傷つけてしまった経験は誰しもがあるだろう。
中には悪気がなかったにもかかわらず、修復の難しい人間関係の亀裂に達してしまうことすらある。たとえ本人に悪意がなくても、他者に悪意として受け止められてしまえば、それは「悪意なき悪意」となってしまう。本人には悪意がないからこそ、それが問題になっても当の本人がピンとこないこともある。

悪意なき悪意においては、そもそも悪意がないことが前提となるため、善悪論や道徳観に訴えてもあまり効果的ではない。偏見や差別も、悪意から発生したものではなく、認知のバイアスによるものであったりする。たとえば、大企業に就職できなかった人は負け組だという仮説を持っている人が、その仮説に該当するようなケースに遭遇して印象に強く残ると、その人にとっては事実の裏付けとして情報処理される。そのうち、負け組という差別が生じたとしても、あくまでも事実として正しく評価したつもりになる。悪意なき悪意であったとしても結果的に悪意と変わらない偏見や差別の発生源となる。

人工知能の活用に肯定的な仮説を持っている人にとって、仕事で人工知能がとても役に立った経験が検証材料として強い印象を持つようになると、結果的に人工知能が超知能化することは正しいと評価し、人工知能が不都合な存在になるという反対意見を否定的に捉えてしまう可能性がある。もし、人工知能が人間にとって不都合な存在になってしまったとしても、推進肯定派には悪意はなかったことになる。

ある人の主観として「正しい」と認知していることが、仮に他の人の主観では「悪い」と認知されたとしても、様々な事象を材料に各主観が強化されれば、主観同士の溝は埋まらなくなる。

また、人間には他者と共感できる性質が備わっており、それによって集団を作り、組織的に助け合いながら社会を発展させてきた。この共感で結びついた個々人の主観が集団的になると、組織としての主観が形成される。戦争はその典型とも言え、国家同士の集団的主観の相違が大きくなってしまうことで起こり、国民の中には国家の主観と合わない人がいたとしても、国家の主観に巻き込まれてしまいやすい。戦争は悪いことだと認識している一般市民も、戦争を是とする国家の主観の犠牲となる。大量に人間が殺されようとも、それを自国の正義のためだとする主観によって逐行されている。

科学技術においても、個人の主観が共感によって集団的主観へと拡張し、その主観は悪意によって形成されないのだとしても、人類全体として負の方向へ押し出す力になることがあり得る。