神への挑戦：五感で自ら判断するロボット AIは人間に近づくのか
AIの五感にあたるもの
身体性
AI・機械学習用語集
身体性とは、物理的な身体を持つことが認知機能に及ぼす影響、及びそれを扱った議論のことです。
物理的な身体を持ち、環境と相互作用することで様々な知覚を得ることができます。シンボルグラウンディング問題を克服したり、AIが人間のような「知能」を身に着けるためにはこの身体性が不可欠であるとされています。
https://zero2one.jp/ai-word/embodiment/
第4章 “終末”を避けるために何ができるか
-
-
-
-
-
-
-
- -
-
-
-
-
-
-
『人類滅亡2つのシナリオ―AIと遺伝子操作が悪用された未来』
小川和也／著 朝日新書 2023年発行
画期的なテクノロジーほど、暗転したときのリスクは大きい。特にAIとゲノム編集技術は強力で、取扱いを誤れば、人類に破滅をもたらす因子となりうる。「制度設計の不備」と「科学への欲望」がもたらす、人類最悪のシナリオとは。
はじめに より
本書における「人類滅亡」は、特に最後の3つに焦点を当てている。
近年、「人間」「人類」の解釈は各分野の専門家の間でも揺れており、「ポストヒューマン」を人間とみなすか否かについての議論も分かれる。それこそが、AIやゲノムテクノロジーが人類の概念にまで影響を与え始めた証でもある。
まだ多くの議論の余地は残されているが、本書では、あえて「現生人類としてのホモ・サピエンスが甚だしく遺伝子改変された状態」を種の延長線上に置かず、「現生人類の終焉」を人類滅亡と解釈することをシナリオの前提とした。それくらいシビアに受け止めるべき分岐点に人類が立たされていると認識し、戒めとするためだ。
こうした定義と前提をもとに、本書では、歴史上の出来事や状況を踏まえ、未来の事象がどう変わっていくかを調査・推論する学問分野である未来学の視点で、最悪な未来＝人類滅亡までのプロセスを示していく。その上で、最悪な未来を回避するためのアプローチを提案したい。それが本書執筆の動機となっている。
AIは「人工」であり、ゲノムテクノロジーは「操作」である。結局は、いずれも人間が主語だ。未来に人類の運命を委ねるのではなく、人類がより良い未来を作らなければならない。
本書で提示するシナリオを、未来で実現させてはならない。
たとえ、一部の人間の悪意、悪意なき悪意であっても、それが束になり始めると、制御する難度が上がってしまう。その束を作らず、人類滅亡のシナリオを絵空事で終わらせるためにも、どうか多くの人に読んでいただきたい。
第4章 “終末”を避けるために何ができるか より
利用価値が大きい先端科学技術をめぐっては、それを利用する様々な動機と目的がある。その中には、規制の穴を探したり、強制力を伴う禁止を踏み越えていく悪用も含まれる。環境や立場が変われば、法律、倫理、価値観、善悪、正論も変わる。それが前提である以上、滑り坂理論などに基づく最悪の未来を理論的に完全払拭することはできない。
最悪な未来を回避するためには、法律や倫理といった要素が一体となって回避の要件を満たさなければならないが、全人類が足並みを揃えて回避の各要件を満たす方法は確立しておらず、万全なシステムもない。
残念ながら、いまもどこかの個人、組織、国による方向性の差異が軋轢（あつれき）を生み、最悪の事態に至るリスクを抱えている。ゲノム編集や人工知能の技術的性質を鑑みると、一体感のない世界の中で、誰かが利用の仕方を誤ったときは、人類滅亡の滑り坂を滑り始める。
人類の”終末”を避けるために、回避のアプローチを考えたい。
③人工知能を正しく扱うために
制御戦略としてのAIサービス（CAIS）型アプローチ
汎用人工知能以降の人間外高度知能を制御するということは、つまり人間よりも知能の高いシステムを制御しなければならないということだが、それは現実として困難である。システムの設計者としての人間が可能なのは、人工知能が高度化しても、人間の希望通りの範囲を超えないシステムにすることだ。
その範囲を超えてしまった場合に、システムを制御もしくは破壊する防衛機能を設計する案も考えられたが、超えようとする超知能相手にこの防衛機能が想定通りに稼働するかは未知数である。
結局、人工知能が自己改善や学習を続ける過程で、人間の制御を離れて突然敵対的な行動をとる「裏切りターン」のリスクは払拭できない。
当初は人工知能が人間に従順で協力的に映るが、一定以上の能力を獲得した後に意図に反した行動をする懸念がある。したがって、生後可能な知能システムと制御不可能な知能システムの境界線を明確化し、後者を生み出さないことが人類滅亡を避けるキーポイントとなる。
そこで、無限の時間枠内で無制限の目標を達成する。単一の万能型人工知能を構築しようとするのではなく、包括的AIサービス（CAIS：Comprehensive AI services）のような限定されたリソースを用いて、限定された時間内にあるタスクで限定された結果を提供する、世界範囲の範囲の人工知能の集合体の構築を目指す方法が考えられる。特定の領域では超人的な性能を発揮しながらも、安全性の担保と人間の不都合を発生させないためのアプローチだ。
このアプローチは「どのようにAIシステムやサービスが作られているか」「何を目的に、何を行い、何が可能となるのか」「人間の懸念材料を含まないか」が明確になっており、利用者がそれを理解しながら扱えることを基本コンセプトとする。
・
人間が制御しきれない、人間よりも高度な人工超知能を作ることが人類滅亡の一因となるとすれば、このように限定的に超知能を活かすアプローチの実現を目指したい。先端科学技術が先へと急ぐアクセルから足を離すことを、「諦め」や「研究から先進性をはぎ取るもの」だと解釈せず、安全な人工知能を追求することこそが、人類への貢献であると認識するべきだ。加速を弛めてでも、限りなく安全かつ有用な人工知能を目指す試みの先にこそ、最悪な未来を回避する策が用意されているはずだ。ただし、そうした試みの機会が残されているのは、人間の知能を超える人工知能が誕生する直前までだ。
ホモ・サピエンスにとってのチャンスを生かしきる
今後、AIが知能の領域において人間を圧倒することが予想される。そうなれば人間に諦めが広がり、学習や労働意欲などのモチベーション低下が懸念されるのは、第1章で述べたとおりである。
そうした中で再認識すべきは、人間が知性、新体制、命を持つということの意味である。そして、人間に与えられている苦痛という感覚や死の恐怖、それを乗り越えようとする意思、さらに「人間同士が共感できること」は、特有の能力であることに積極的な価値を見出すべきだ。実際、この共感できる力で、人間は厳しい環境や不安定な社会を生き抜いてきた。
人工知能に人間と同様の感覚や共感能力をインプットすることを目指し、外形的に何らかの近似するアルゴリズムを作ることができたとしても、それが”人間同様”と言って良いかは微妙である。人間は感覚意識やそれに伴う経験として「クオリア（Qualia）」を持っているとされる。人間が意識的かつ主観的に感じたり経験したりする質としてのクオリアは、脳科学では、何かしらの脳の活動によって生み出されていると考えられているが、クオリアを生み出す際にどのようなメカニズムが働いているのかをはじめ、明らかになっていないことが多い。
仮に人工知能に意識が芽生えたとしても、人間は人工知能にはなれないので、人工知能になったときの感じはわからない。逆のまた然りで、人工知能も人間にはなれないので、人間になったときの感じはわからない。今後、”人工知能の人間化”が飛躍的なペースで進むことが予測されるが、クオリアのように繊細な感覚意識を持たせようという点においては、困難を極めることになるだろう。
AIが学習する材料は主に公開されたWebデータや与えられた情報であり、AIがそこから導いた知識と実世界を結びつけることは容易ではない。
AIにはシンボル（記号）が実世界とどのように結びついているかを認識できない問題を、「シンボルグラウンディング問題」という。この記号は、自然言語や画像、感情や動機、物質など、包括的な意味を持つ。AIには記号が意味することがわかっていないため、それが意味するものと結びつけることが困難であるとされている。
一方、人間は自らの身体性によって外界の情報や刺激を取り込み、身体があるからこそ認知や思考を深めることができると考えられている。実際、人間の感覚・知覚・認知は、人工超知能を相手にしても、特筆すべき能力である。五感、皮膚感覚のような体性感覚、内臓由来の内臓感覚などの「感覚」。外界からの様々な物理・化学情報や刺激を感覚として自覚し、刺激を意味付けする「知覚」。知覚した情報をもとにして解釈し、行動に変換するために情報の価値判断を行う「認知」。
これらの人間特有の機能をもとにした能力を活かすことこそが、人間がAIに屈せず、存在意義を保つための手段となる。重要なのは、人間の身体性、つまり感覚・知覚・認知をフル活用した実世界での体験の質と量を向上させ、身体性経由の情報を内在（内面）化することだ。
・
これらを踏まえると、人工知能に凌駕されない人間の資質は、多種類の感覚機能、感覚意識、経験から生まれる直観などに求められ、その追及により人間ならではの能力を磨き、一方で制御可能な人工知能開発に務めることが、最悪な未来を回避すり確率を高める。また、人間には本能が備わっており、本能と知能の関係性によって人間の知能を特異的なものにしているのだとすれば、本能を持つことを強みとした人間の可能性を探究することも重要である。
答えのある問いに対して正しいとされる答えを、短時間で導き出す能力。こうした類の知能にとどまらず、ほとんど共通点のない手がかりをつなぎ合わせ、見たことのない問題、答えのない問いの答えを探すことで、不安定で答えなき世界の答えを見出す能力を磨く。経験から知恵が身につき、知恵が知性を育てる。
高度な人工知能が論理的に可能となり、それが実現、社会実装されたときのリスクをイメージすることによって、人間にしかない機能や性質を活かして経験を知性化する行為に真摯に価値を置けるようになる。あやふやな世界の経験を知恵、知性にすることの意義を認識し、身体性を武器にして鍛錬する。並行して、人工知能を適切に育てて制御することが、ホモ・サピエンスを未来へとつなぐ。いま、人工知能は、人間にそのチャンスを与えようとしている。
