Can we apply human ethics to robots?
Can we apply human ethics to robots?
Cornell researchers taught a robot to take Airbnb photos
『私たちが、地球に住めなくなる前に』
マーティン・リース／著、塩原通緒／訳 作品社 2019年発行
第2章 地球での人類の未来 より
人間レベルの知能はありえるか
一部の科学者は、コンピューターが「自分自身の心」を発達させて、人類に敵対的な目標を追求する可能性もあるのではないかという恐れを持っている。強力な先進的AIは、いつまでも従順でいてくれるのか、それとも「ならず者化」してしまうのか。人間の目標や動機を理解して、それに協調してくれるのか。倫理や常識を十分に学習して、どんなときに別の動機よりもそちらを優先させなければならないかを「知る」ようになれるのか。AIがモノのインターネット（IoT）にひとたび浸透したなら、AIは世界中を操作できるだろう。そのときのAIの目標は人間の望みと相反するかもしれないし、人間を邪魔者として扱うことすらあるかもしれない。AIが「目標」を持つのは間違いないにしろ、AIに教え込むのがトン等に難しいのは「常識」だ。目標をむやみに追及するべきではなく、倫理的な規範を破るぐらいなら目標追求をやめるべきであるということを、AIはわかってくれるのだろうか・
コンピューターは数学的技能をとてつもなく高めるだろうし、おそらくは創造性さえも高めるだろう。すでに現代のスマートフォンは、日常の決まりきった事柄をわざわざ人間が記憶しなくてもいいようにしてくれているし、世界中の情報にもほぼ即座にアクセスさせてくれる。遠からずして異言語間の翻訳もありふれた作業になるだろう。次の段階は、追加の記憶装置を「プラグイン」することや、脳への直接入力によって言語技能を獲得することかもしれない――そんなことが実際にできるのかどうかは不明だが。人間の脳を埋め込み電子回路で増補できるものなら、人間の思考や記憶を機械にダウンロードすることだって可能なのかもしれない。
・
だが、もしもAIシステムが、人間が持っているのと同じような意味での意識的な思考を持ったとしたら？ コンピューター科学の分野を切り開いたエドガー・ダイクストラの見方に沿えば、そんなことは考えるまでもない。「機械が思考を持てるかどうかという問いは、潜水艦が泳げるかどうかという問いと同じぐらいの意味しかない」。クジラと潜水艦はどちらも水を切って前進するが、両者の進み方は原理的に違うのだ。しかし多くの人からすると、知能を持った機械が自意識を持つかどうかはたいへんな問題になる。私たち人間の脳内にある「湿った」ハードウェアを持っていない電子的な存在に未来の進化が支配されるようになるというシナリオに即すなら、自分がいる世界の脅威に感嘆したり、外の世界を「感知」したりといった、人間が普通にできることもできない「ゾンビ」に人間が能力で上回られるなど、これほどへこむこともないだろう。しかしいずれにしても、自律型ロボットによって社会が変質するのは時間の問題だ。人間が本物の理解と呼ぶものをはたしてロボットがもつのかどうか、それともロボットはあくまでも――遂行能力はあっても理解力はない――「馬鹿な下僕」であるのかどうかについては、いまだに判定がくだされていないとしても。
・
ともあれ、いずれ機械が人間ならではの能力の大半を上回ることに疑いを持つ人はほとんどいない。見解が分かれるのは進み具合の速さについてで、方向に関してはほとんど一致だ。
熱烈なAI信者が正しかったなら、生身の人間が超越されるのはわずか数十年後かもしれないし、あるいは何百年も先なのかもしれない。しかしそうだとしても、人類が出現するまでの恐ろしく長い進化の年月に比べれば、数百年など一瞬に等しい。これはなにも、あきらめの境地のような見方ではない。むしろ楽観を呼ぶ見方である。私たちに取って代わる文明は、想像もつかないような進歩を果たしてくれるかもしれない――おそらくその偉業を私たちは理解もできないだろうけれども、地球の先で展開されるその未来については、第3章であらためて見ていこう。
