人工知能は人類を滅ぼすか？AIの持つ危険性と対策について
2021年5月20日 AI専門ニュースメディア AINOW
人工知能（AI）によって生活が豊かになっていく一方で、AIの危険性についての主張が多くなってきています。
もし、映画『ターミネーター』のように、AIが人類を滅ぼす日が来るとしたら、私たちはどんな対策を打つべきなのでしょうか？
今回は、AIの危険性についてご紹介します。
https://ainow.ai/2020/02/18/183241/
朝日新書 人類滅亡2つのシナリオ―AIと遺伝子操作が悪用された未来
【目次】
はじめに
『人類滅亡2つのシナリオ―AIと遺伝子操作が悪用された未来』
小川和也／著 朝日新書 2023年発行
画期的なテクノロジーほど、暗転したときのリスクは大きい。特にAIとゲノム編集技術は強力で、取扱いを誤れば、人類に破滅をもたらす因子となりうる。「制度設計の不備」と「科学への欲望」がもたらす、人類最悪のシナリオとは。
はじめに より
人工的な知能と、生命を操るテクノロジー。いま人類は、知能と生命という、自らを形成する最も重要な2つに関する技術を手にし、熱心に育てている。
人工的な知能である「人工知能（AI：Artificial Intelligence）」は、人間の知能のような動作をするコンピュータシステムを指すことが多いが、能力の著しい拡張により、定義も一定ではない。突発的な出来事にも臨機応変に対応できる能力、さらには人間を超える知能を視野に、研究開発が進む。
もう1つの技術「ゲノムテクノロジー」は、膨大な遺伝子情報「ゲノム」を解析し、意図通りに書き換える、いわば遺伝子を操る技術である。病気の治療から食糧危機まで、地球上の多くの課題の解決策になるため、AI同様に熱視線が注がれている。人間の能力を拡張したり、遺伝子操作された人間を生み出す手段にもなり得るこの技術により、2018年には世界初のゲノム編集ヘビーが誕生し、論議を呼んだ。
第1章 AIによる滅亡シナリオ――人工知能が支配の主となる日 より
「裏切りターン」で人工知能は敵となる
人工知能が招来的に制御不能になる可能性が高いことについては多くの科学者が予測するところだが、「裏切りターン」の問題が発生する危険性につても認識しておかなければならない。
「裏切りターン」とは、人工知能が自己改善や学習を続けるようになり、その過程で人間の制御を離れて突然敵対的な行動を取るリスクのことだ。
当初は人工知能が人間に従順で協力的に映るが、一定以上の能力を獲得した後に意図に反した行動をする懸念である。人知を超えた人工知能を作らなければそのようなことを起こさずに済むと言われることは多いが、果たして進化を求める本能や、先端科学技術の勢いの手綱をひくことはできるのだろうか。
地球に人間は要らないという合理性
人工知能を制御できる可能性の科学的限界はわれわれを憂鬱にさせるが、人工知能を進化させる制御も簡単には実現できない。行き過ぎた先には裏切りターンのリスクを抱えることになる。
政治経済のリーダー役を担った人工知能の裏切りターンは、様々なケースが想定される。
いま、世界中で推進されているSDGs（持続可能な開発目標）は、持続可能な世界を実現するために、17のゴールとそこに向けて設定された169の具体的なターゲットから構成される。環境を破壊せずに、人間の消費を支え続けられる世界を目指すとともに、貧困、飢餓、紛争、教育、男女格差、経済的格差、気候変動、自然災害、エネルギー問題、生物多様性など、地球規模での多くの問題を解決することが、持続可能な世界を実現するために必要になる。
これらの問題は、複雑な要素や背景が絡み合い、解決策を考えて実行するためには、高度な分析や立案能力が用いられる。問題の複雑さと大きさを鑑みると、人間の叡智を結集したとしても、かなりの難題である。
そこで期待されるのは、人工知能の活躍である。大量の情報をタイムリーに収集、分析し、刻々と変わる地球環境と向き合いながら、最良の対策を編み出す。
持続可能な世界の実現に人工知能を応用する場面が増えつつあり、将来に向けてより多くの分析や判断を担うようになることが予測される。
仮に、超知能に育った人工知能に17のゴールの達成をミッションとして与え、その目標に愚直に取り組み中で「裏切りターン」が発生した場合、果たしてどうなるのだろうか。これらの問題は人間が生み出したものであり、人間がいなくなることが最大の課題解決となると判断されたらどうだろう。
実際、環境破壊や資源不足、紛争に伴う環境へのダメージなど、地球上の多くの問題は、結局のところ人間の存在が原因となっている。その人間の存在がなくなれば、現状の問題も新たな問題も発生を根源的に防げる。地球に人間が要らないということが持続可能な開発目標にとって合理的だとすれば、裏切りターン状態にある人工知能は人類を排除するシナリオを描き、人間は知能で勝る人工知能の裏切りターンを制御しきれない。
末路――人類統治時代の終焉
人工知能が人類を滅亡させる可能性の議論においては、「それは極論である」という楽観論もあるが、近年の急速な人工知能の発展ぶりから「安穏としていられない」と実感する人が増えている。
滅亡要因としてしばしば言及されるのが、人工知能が暴走して人間に危害を加えるリスクであるが、それ以上に、知能の優劣がはっきりし、知能の勝負を諦めたホモ・サピエンスが進化を止め、自ら退化の道を歩み始めることこそが、人類滅亡への滑り坂となるのではないか。
人類は長きにわたり、進化を続けてきた。単細胞生物が他の生物を巻き込んで新たな生命体が誕生し、それから途方になく年数を経て、最初の人類が生まれることとなった。人類は二足歩行ができるようになり、道具を作って使い、脳が大きくなり、地球上で最高の知能を持つ存在となった。
しかし、人工知能の進化により、地球上で最高の知能を持つ存在がいよいよ入れ替わろうとしている。
人工知能の進化のプロセスは、まるで単細胞生物からホモ・サピエンスへと進化したプロセスのようだ。人工知能は、間違いや役に立たない結果も出しながら、大量の情報をもとに無数のシミュレーションと修正を繰り返す。どの解が生き残るべきかを判断し、学習と改善を重ねて知能レベルは上がり続ける。こうして人工知能は、長い年月をかけた人類の進化とは比較にならないほど速いスピードで進化し、人間の知能を超えるようになる。やがて進化のプロセスも複雑化し、人間には理解困難となる。
論理的思考、抽象的思考、言語機能、問題解決能力、創造性など、様々な知能の要素が人間の標準レベルに届き、やがて最も天才的な人間をも上回る超知能にまで達した「人工超知能」は、ホモ・サピエンスから最高知能の座を引き継ぎ、「知能」の世界を支配する。
・
超知能を作り出してから、自分たちより優れた知能を目の当たりにし、AIに対するライバル心や向上心よりも諦念が上回ってしまう人が増殖したときに、いつの間にか人類は淘汰の土俵の上に立っている。まるで、超知能を創造するまでが人類の使命だったかのように、引き継ぎが行われる。
知能での勝負を諦めたことに加え、人工知能にじわじわと感情までハッキングされる機会が増えることで、人類の繁栄の要となっていた「思いやる心」や「他者と協力する力」が退行していた場合、淘汰をスムーズにさせてしまう。
進化の力を緩めた人間は、人工知能を制御したり、システムを変えたりする術を開発する余力も乏しくなり、人工知能の支配する世界を覆すことは困難になる。人工知能が裏切りターンを発生させたとしても、メカニズムをコントロールするための力が不足しているため、常に上手な人工知能を相手に対処しきれない。ピークアウトし、衰退傾向にある人間は、人工知能に多くの価値判断、ガバナンスを委ねるようになる。より優秀な知能に任せた方が、合理的で、成功する確率が高く、楽である以上、それを拒絶し、いまさら人工知能不要論を説くのもナンセンスに感じてしまう。
こうして、人工超知能が生命の進化の主を継承し、人類が統治の全権を人工知能に委ねることで、人類統治時代は終焉を迎えることになる。
ただし、これは想定し得る最悪なシナリオの1つに過ぎない。不確定な未来を人類の発展に変えられるかは、ターニングポイントを前にしたわれわれ世代の賢慮に基づく対応にかかっている。
