AI 『フレーム問題』
ドラえもんのようなAIができないのは『フレーム問題』のため？ 『フレーム問題』について書いてみた
AI入門ブログ
この問題に関する代表的な例として、アメリカの哲学者ダニエル・デネット氏の論文「Cognitive Wheels : The Frame Problem of AI」の中で挙げられているロボットと時限爆弾の問題を元に、一例をご紹介したいと思います。
https://ai-kenkyujo.com/2018/10/19/frameproblem/
『動物と機械から離れて―AIが変える世界と人間の未来』
菅付雅信／著 新潮社 2019年発行
AIとは何かを考えることは、人間とは何かを考えること より
まずAIユートピアンの代表は、なんといってもカーツワイルだ。グーグルでAI研究の責任者を務める科学者の彼は、AI自体が自身を改良することにより指数関数的に成長していく未来の到来を謳う概念＝「シンギュラリティ＝技術的特異点」の提唱者でもしられる。彼の著作『ポスト・ヒューマン誕生 コンピュータが人類の知性を超えるとき』[2005]は世界的ベストセラーとなり、日本でも広く読まれた。
・
未来大学教授の松原仁は言う。
「核兵器の廃絶の気運が高まっていますが、世界中から消える気配はない。それなら良い方向にテクノロジーを発展させるしかないわけです。ぼくはあまり悲観しません。これまで人類は生物としての絶滅の危機を何度も乗り越えてきましたから。AIが神に近づいて、人間同士の争いを止めさせる能力があれば良いのかもしれません。SF的ですが、AIが神のように見張っていて、人間同士が喧嘩や戦争を始めると、より強い力で制裁を加え、それが抑止力になって戦争を減らすという図です。また、ぼくは人間よりもAIの方が妥当な倫理観をもってくれないかと期待しているんです。人間には、自分のしんじている宗教と違う人なら死んでもかまわないと考えている人が残念ながら多くいます。イスラム教とキリスト教の原理主義者は、自分の宗教を信じていない人はお互いに人間ではないと思っている。永遠に続く宗教対立を人類では解決できないとしたら、AIの助けを借りるのは有力な手かもしれないと思います」
AIが全知全能になれない理由
では、AIは宗教に代わる「神の代替」になり、さらに全知全能の神に近づくのだろうか。
これまでの議論に反するようだが、実は松原は、AIが全能の神になるのは難しいと考えている。そこにはAIにおける「フレーム問題」が横たわるからだ。
フレーム問題とは、ある行為をコンピュータにプログラムするとき、「その行為によって変化しないこと」をすべて記述しようとすると計算量が爆発的に増えてしまい、結果としてその行為を行なうことができなくなりという問題だ。例えば人の場合は、何らかの行動をする時、必要な情報だけを「枠（フレーム）」で囲い、適切に用いることができる。松原の著作『AIに心は宿るのか』（2018年）では、その問題をこう説明する。
たとえば、これから電話をかけようとする時、スマートフォンの扱い方や、相手に合わせた言葉づかいなどの情報を自然と用いることができます。走り幅跳びの身体の動きで机上のスマートフォンに走っていこうとはしないし、スマートフォンで連絡先を調べる時、目玉焼きを焼くような手つきで行う事はしません。つまり人間は、時と場合に合わせて情報の「あたり」をつけて行動することができる。しかしAI、コンピュータにはそれができないのです。できないというより、あたりをつけて行動するようにプログラミングするのが難しいのです。（略）その一方、私たち人間は情報をすべて参照することができない「部分情報問題」を解くことが得意です。たとえば私とあなたが話しをしようとする時、たとえ会ったことがなくてお互いのことを知らなくても（部分情報）、最低限の世間話をすることができますよね。 年齢や趣味嗜好がわからなくても（不確定）、見た目から年齢を予想したり、話し方から趣味嗜好を推測したりして、あたりさわりのない話をして（非ゼロ和）、時間を過ごすことができる。AIはこの部分情報問題を解くことが非常に苦手です。（略）AIに部分情報問題を解けるようにするために必要なことが、身体を与えることなのです。（略）私たちはフレーム問題に直面することなく、多少のミスはするけれど「なんとなく」うまくやっていくことができる。（略）AIは万能に見えますが、人間のような知性の柔軟性を持ち、人並みになるためには、有限な身体が必要なのだと考えられます。
