じじぃの「時限爆弾が仕掛けられたら・フレーム問題は解決したのか?AI・人工知能」

トップ8最先端のロボット信じられないほどの世界 動画 YouTube
https://www.youtube.com/watch?v=1cjFposQiHg

フレーム問題 ウィキペディアWikipedia) より
フレーム問題とは、人工知能における重要な難問の一つで、有限の情報処理能力しかないロボットには、現実に起こりうる問題全てに対処することができないことを示すものである。
哲学者ダニエル・デネットが論文で示した例を挙げて説明する。
状況として、洞窟の中にロボットを動かすバッテリーがあり、その上に時限爆弾が仕掛けられている。このままでは爆弾が爆発し、ロボットは動かなくなってしまうので、洞窟の中からバッテリーを取り出してこなくてはならない。ロボットは、「洞窟からバッテリーを取り出してくること」を指示された。
人工知能ロボット1号機R1は、うまくプログラムされていたため、洞窟に入って無事にバッテリーを取り出すことができた。しかし、1号機はバッテリーの上に爆弾が載っていることには気づいていたが、バッテリーを運ぶと爆弾も一緒に運び出してしまうことに気づかなかったため、洞窟から出た後に爆弾が爆発してしまった。これは、1号機が、バッテリーを取り出すという目的については理解していたが、それによって副次的に発生する事項(バッテリーを取り出すと爆弾も同時に運んでしまうこと)について理解していなかったのが原因である。

                          • -

『AI 人工知能 知るほどに驚き!の話』 ライフ・サイエンス研究班/編 KAWADE夢文庫 2017年発行
ブームを終息させた「フレーム問題」とは 知識を表現するための枠組みをどこまで広げるか? より
何事も始まりがあれば終わりがある。順調に見えていた事柄も、意外に簡単なところからつまずくものだ。
1950年代後半から1960年代にかけての第一次人工知能ブーム期、人工知能の研究は比較的順調に進んでいた。しかし、1969年に大きな壁にぶつかってしまう。それは「フレーム問題」である。
フレームとは、知識を表現するための枠組みのこと。たとえば、人工知能が初めて部屋に入ったとしよう。その際、「部屋には天井や床、壁、窓、カーテンなどがある」という部屋についての基礎知識を前もって与えられていれば人工知能はすぐに部屋を部屋として認識できる。このように、知識を表現するための枠組みをフレームという。
人工知能を活用するのは、すべてを事前にプログラムしておけばいい。しかし、すべてをプログラムしようとしても情報処理能力には限界があるため、何をしていいか・何をしてはいけないかを指定する必要が出てくる。
そうなったとき、「現実世界で起こるすべての事象についてフレームを広げなえれば」ならないのか」「それが無理ならば、どこまでフレームを広げれば十分なのか」という問題をなかなか克服できなかった。
人間の場合は特にフレームを設定しなくても、長年の経験によって獲得した常識で難局を切り抜けられるが、人工知能の場合はそうはいかない。このフレーム問題にぶつかるに至り、研究者らの思考は袋小路に入ってしまった。
     ・
こうしたことから、1970年代に入っても研究の成果は上がらず、研究資金が次々に打ち切られてしまい、第一次人工知能ブームは終わりを迎える。
ちなみにフレーム問題はいまだに解決されておらず、現在に人工知能も統計確率からの学習をベースにしてつくられている。

                          • -

どうでもいい、じじぃの日記。
ロボットに、「部屋にバッテリーがある。時限爆弾が仕掛けられたのでバッテリーを運んでほしい」という命令を出した。
しかし、この命令は意外と難しいのだという。
①バッテリーと時限爆弾が一緒になっている場合、バッテリーを持ち出し、部屋を出たところでロボットは爆破されてしまった。
そこで、この問題を改良したロボットが作られた。
今度のロボットには、自分の意図した行動だけでなくその行動の結果として、周囲に何が起こるかを推論する機能が追加された。
②ロボットはバッテリーの回収に取りかかった。回収するとき、ロボットはいろいろな場合のことを考えた。このバッテリーを動かすと上にのった爆弾は爆発しないかどうか、運ぶ際車輪が正常に回転するかとうか、そんなことを考えている間に、時限爆弾が作動してロボットは吹っ飛んでしまった。
そこで次に、目的を遂行するにあたって無関係な事柄は考慮しないように改良したロボットが作られた。
③このロボットは部屋に入らず、その前でうずくまった。ロボットは、部屋に入る前に、目的と無関係な事柄を全て洗い出そうとして、無限に思考し続けてしまったのである。そうしている間に、時限爆弾は爆発してしまった。
チェスや将棋の場合、そのチェス盤や将棋盤の枠以外の知識は扱わない。人工知能の世界ではフレーム問題を避けて、有限の空間の中で推論する研究が行われれているのである。