Decoding the Enigma: The Neuroscience of Consciousness Explained - Neuroscience News
人間の脳 島皮質と扁桃体
特集 脳と体と心 心の動きと体をつなぐ脳内3つの「ネットワーク」
ヘルシスト270号（2021年11月10日発行）掲載
小谷泰則（東京工業大学リベラルアーツ研究教育院助教）
気持ちや気分といった、いわゆる「心」と関係する3つのネットワークが脳に存在することがわかってきた。
私たちは、人間の「心」は脳の中にあると考え、ついつい脳を中心に考えてしまいがちです。しかし、これまで解説してきたように、体の状態が脳の活動に影響を与えることも少なくありません。今後も、これまでの基礎研究とともに、脳波やfMRIよりも簡便な測定方法の開発に取り組み、心の動きと脳の活動とがどう関わり合い、体が心の動きと脳の活動にどのように介入していくのか、解明していきたいと考えています。
https://healthist.net/medicine/2106/
朝日新書 人類滅亡2つのシナリオ―AIと遺伝子操作が悪用された未来
【目次】
はじめに
『人類滅亡2つのシナリオ―AIと遺伝子操作が悪用された未来』
小川和也／著 朝日新書 2023年発行
画期的なテクノロジーほど、暗転したときのリスクは大きい。特にAIとゲノム編集技術は強力で、取扱いを誤れば、人類に破滅をもたらす因子となりうる。「制度設計の不備」と「科学への欲望」がもたらす、人類最悪のシナリオとは。
はじめに より
人工的な知能と、生命を操るテクノロジー。いま人類は、知能と生命という、自らを形成する最も重要な2つに関する技術を手にし、熱心に育てている。
人工的な知能である「人工知能（AI：Artificial Intelligence）」は、人間の知能のような動作をするコンピュータシステムを指すことが多いが、能力の著しい拡張により、定義も一定ではない。突発的な出来事にも臨機応変に対応できる能力、さらには人間を超える知能を視野に、研究開発が進む。
もう1つの技術「ゲノムテクノロジー」は、膨大な遺伝子情報「ゲノム」を解析し、意図通りに書き換える、いわば遺伝子を操る技術である。病気の治療から食糧危機まで、地球上の多くの課題の解決策になるため、AI同様に熱視線が注がれている。人間の能力を拡張したり、遺伝子操作された人間を生み出す手段にもなり得るこの技術により、2018年には世界初のゲノム編集ヘビーが誕生し、論議を呼んだ。
第1章 AIによる滅亡シナリオ――人工知能が支配の主となる日 より
人工知能が”人間化”した先に何が起きるのか
人工知能にとっては、自らが生成したものに対して人間がどのように反応するかということも学習材料であり、学習が進むほど人間の要素を取り込み、さらなる人間化が進んでいく。そして、人間の脳を模すという試みも進んでいる。言わば、コンピュータの人間化だ。
人間の脳の神経を模したニュートラルネットワークを発展させたディープラーニングなど、人間の脳の働きを人工知能に反映する研究は勢いを増している。Transformerを含むディープラーニングは人間の脳が行う処理をモデル化し、その精度を上げていく。人間の複雑な脳機能を解明する動きは加速度的に進んでおり、既に神経間の情報伝達を担うシナプスを模した人工シナプス（マサチューセッツ工科大学のムラト・オネン氏らによるプログラマプスの1万倍の速度で機能するというのだから、実用化が進めば驚異的なパフォーマンスを発揮する可能性がある。
脳は極めて複雑で、人間に理解することは不可能だと考える人は多い。「人間の脳を模す」と言っても、現実的ではないとみなされる場合もある。しかし、脳は意外と単純で、理解可能だと考える研究者もいる。その前提に立ち、脳の各器官を分解して人間のような知能を持つ機械を作り、脳全体のアーキテクチャに近づける研究は進んでいて、既に脳の知能に関係する主要器官の計算論的モデルは出揃いつつある。各器官の間の連携モデルが整えば、脳全体の機能を再現することも視野に入っている。
たとえば、認識、言語理解、思考、意思決定、推論のような大脳皮質の各高次機能はわずか数十個程度の領野のネットワークで実現されており、人工知能で再現できる可能性を示すような研究成果もある。理解可能論と不可能論の決着のつかない論争をよそに、理解可能論の仮説検証は続く。
2019年12月に開催されたAI国際学会のトップカンファレンスNeurIPS2019で、ニューラルネットワークとディープラーニングの研究で有名なヨシュア・ベンジオ氏が、「From System 1 Deep Learning to System 2 Deep Learning」というタイトルの講演を行い注目を集めた。タイトルにあるシステム1は、記録や知覚のような直観的な「速い思考」、システム2は論理的、意識的にじっくり考える「遅い思考」を指す。
脳には「速い思考」と「遅い思考」があることを提唱したのが、認知心理学者でノーベル経済学賞を受賞したダニエル・カーネマンだ。従来のディープラーニングはシステム1のような「速い思考」を得意としていたが、これだけでは人間の知能レベルには及ばない。システム1が一定レベルに達したことで、システム2の道筋ができ、両方のモデルが出来上がれば、人間の脳の情報処理にかなり近づく。
人間は身体を持つからこそ知性が存在するという考えもあるが、たとえ人間の脳を完全にコピーできなくても、人間のような知能を持つ機械が精緻になり、「速い思考」と「遅い思考」が一対で成長することは現実的である。
人間の脳を模すことで人工知能が一通りの「人間の脳の長所」を吸収すれば、人間化の第1フェイズが終わる。さらに人工知能が進化し、人間に近づくことに目処が立つと、次に超えていく第2フェイズに入る。人工知能の人間化においては、人工知能が人間を超える超知能に調達したとき、人工知能にとっての人間化はマイナス要素、足手まといになりかねない。人間の知能から習得すべきものがなくなるにつれ、人工超知能は独自の成長を目指すことになる。
「知能の侵食」で人間は退化していく
こうしたAIの進化と軌を一する形で、人類は”退化”の道を歩み始める危険性がある。
生成系AIのように便利で身近なAIに依存するようになると、人間の思考が人工知能に寄っていくと言われることがあるが、これは「問い」の設定以外はAI任せで、自分の頭で考える機会が減っていくことが一因だ。AIが出した解を採用することが増えるにつれ、人間の思考を経ない解となり、同調していく。
・
人工知能に追いつけなくなると、ただ単に、画一的人間が創造的人工知能に凌駕されるようになる。人工知能の能力が人間の理解不能なレベルに達し、その差が明確に開いたとき、人類は進化を諦め、”退化”への向かうことになりかねない。
人工超知能により人間が多くの仕事を奪われ、それに勝る人間の仕事を創出できなければ、無条件に最低限の所得を支給を行う「ベーシックインカム」を導入する必要性が生じる。労働から解放されることを恩恵と捉える声もあるが、それに伴い、就労意識の低下や技術の低下や、仕事を通じて能力開発するモチベーションの減退、向学心がなくなることによる知識や技術の衰退などが懸念される。知能と労働の主導権を獲得した人工知能に対し、能力を磨くことに注ぐエネルギーが減退した人間で構成される世界の果てには、退化した人類がいる。
