じじぃの「歴史・思想_125_動物と機械・AIには好奇心がない」

Curious Robots and Children

動画 YouTube
https://www.youtube.com/watch?v=93ZLn5GWdJ0

ロボットには好奇心がない?

『動物と機械から離れて―AIが変える世界と人間の未来』

菅付雅信/著 新潮社 2019年発行

「自律性」という広大な未知を探索する より

子供に絵本や動物図鑑を与えて、動物の名前やその概念を教える親は多いだろう。圧倒的な計算能力と記憶容量を持つAIだが、実は2012年までAIは「猫」とは何かがわからなかった。
2012年、グーグルはディープラーニング(深層学習=人間が自然に行なうタスクをコンピューターに学習させる機械学習の手法)の技術を通して猫の画像解析に成功したと発表し、世間に衝撃を与えた。グーグルのAIには「猫とは何か?」が、少なくとも画像の領域においては理解できるようになったのだ。この時点でAIは、猫の画像と犬や他の動物の画像の違いや、猫を写真でもイラストでも認識できることなど、ひとつひとつのさまざまな画像に共通する「猫」という一般的な概念を理解できたと言われている。それ以降、画像認識、音声認識などの特化型AIの発展は目覚ましいものがあり、将棋やチェス、囲碁などの様々なゲームの領域で、人間は特化型AIに敗北し続けている。
しかし、多くの科学者や研究者が夢見る汎用型AIは、まったく実現の目処(めど)が立っていない。レイ・カーツワイルを筆頭としたシンギュラリティの到来を占う研究者の予測の通り、特化型AIの計算速度は指数関数的に発展している。しかし一方で、本や研究資料を読み、関係者に会えば会うほど、わたしにも汎用型AIの難しさがわかるようになってきた。

機械には好奇心がない

未来を予感させる刺激的なプレゼンテーションが繰り広げられた「ALIFE 2018」のなかで、特に興味を惹かれたのが、ケネス・O・スタンレーのものだった。「未知を検索する」という彼の講演テーマは、現在の検索万能主義に警鐘を鳴らし、かつ機械の自律性について優れた視座を提唱していた。

スタンレーいわく、「機械には好奇心がない。しかし好奇心がないと、未知なるものとは出合えない」。

そのプレゼンテーションの3日後に単独取材に応じてくれたスタンレーは、インタビューの冒頭で次のように語った。
アルゴリズムの計算が導き出す『最適化』とは、多くの分野において発見可能な範囲を決めてしまう。ゆえに最適化を超えたアルゴリズムの設計が重要なんです」
ある目的を解決する特化型AIは、特定の目的を達成するために開発される。だが、スタンレーが取り組むのは、目的がない状態でも機械が自律的に答えを探していくアルゴリズムだ。
スタンレーは「ノヴェルティ・サーチ」というアプローチに挑戦している。ある解を導き出そうとするときに、過去に発見された組み合わせを記録し、そこから外れた「目新しいもの(Novelty)」の組み合わせを追求するアルゴリズムだ。「まだ探索されていない領域は何か?」を明らかにし、積極的に探索することで、より良い答えにたどり着く確率が上がるという。それは、向かうべき目標を決めるのではなく、「目新しいもの」に向かうアルゴリズムを設計することだ。
スタンレーは「ノヴェルティ」を「人間の好奇心に似たもの」だと表現する。
「ノヴェルティとは、未知の方向を指し示す矢印です。未知なるほうへ向かうといっても、その先に何があるかもわかrずに窓から飛び降りるようなことはしません。過去の情報から、どの方向に面白いものがあるかがわかった上で探索するんです。それには好奇心が必要です。そして機械には好奇心がない。機械に好奇心をプログラムすることは、現時点では大変難しいんです」