Meet R5: Valkyrie
動画 YouTube
https://www.youtube.com/watch?time_continue=19&v=yTGSy-79eHc
Replicating Robot
『人類、宇宙に住む 実現への3つのステップ』
ミチオ・カク／著、斉藤隆央／訳 NHK出版 2019年発行
宇宙のロボット より
2017年、ふたりの億万長者――フェイスブックの創設者マーク・ザッカ―バーグとスペースXとテスラのCEOであるイーロン・マスク――の間で論争が起きた。
ザッカ―バーグは、人工知能は富と繁栄を大いに生み出し、社会全体を豊かにする、と主張した。一方、マスクははるかに暗い見方をし、AIは現に人類全体の存亡にかかわるリスクをもたらしており、いつか自分たちの創造物がわれわれに牙を剥くかもしれないと述べた。
どちらが正しいのだろう？ 月基地や火星の都市の保守管理をロボットにひどく依存するようになり、いつかわれわれを必要としなくなったらどうなるか？ 人類が宇宙にコロニーを建設しても、結局はロボットに奪われてしまうのか？
こうした不安は昔からあり、早くも1863年には、小説家のサミュエル・バトラーが「われわれは今、自分たちの後継ぎを作り出している。いずれ機械によっての人は、人にとっての馬や犬に等しい存在になるだろう」と警鐘を鳴らしていた。ロボットが次第に人間より高い知能をもつようになると、われわれは劣等感を抱き、みずからの創造物に先を越されたような気分になるかもしれない。AIの専門家ハンス・モラヴェックはこう語っている。「これまでになくすばらしい発見について、われわれがわかるような易しい言葉で説明しようとする超高度な知能をもつわが子たちをぽかんと見つめて過ごす。それが人間の運命なのだとしたら、人生は無意味に思えてしまうかもしれない」。グーグルの科学者ジェフリー・ヒントンは、高度な知能をもつロボットがわれわれの言うことを聞きつづけることを疑っている。「それはまるで、子どもが親をコントロールできるかと問うようなものだ。……知能の劣るものが自分より知的なものをコントロールできたためしはあまりない」。オックスフォード大学のニック・ボストロム教授はこんなことを言っている。「知能爆発[人工知能が自己を改良するようになって急激に賢くなっていくこと]の可能性を前にしたわれわれ人類は、爆弾をもてあそぶ幼児のようなものだ。……いつ爆発が起こるかはまるでわからないが、それを耳にあてるとかすかにカチカチという音が聞こえる」
一方、ロボットの反乱は、進化がたどるひとつの道だと考える人もいる。適者が弱者に取って代わるというのは、自然の摂理なのだと。
・
ザッカ―バーグとマスクの論争について私個人の見解を述べれば、短期的にはザッカ―バーグが正しいと思う。AIは、宇宙に都市の建設を実現するだけでなく、より良いものを効率的に安く作ることで、社会を豊かにしてくれるだろう。また一方で、ロボット産業によってまったく新しい仕事が生まれ、いつかその業界は今日の自動車業界を超える規模になるかもしれない。だが長期的には、大きなリスクを指摘するマスクが正しい。この議論でな、次の問いが鍵を握っている。どの時点で、ロボットはこの変化を起こし、危険になるのか？ 私個人としては、ロボットが自我をもつまさにそのときが、重要な転換点になると考えている。
今日のロボットは、自分がロボットだとわかっていない。だがいつの日か、ロボットは自分にプログラムを組み込んだ者が望む目標を受け入れるのではなく、自分自身の目標を生み出す能力を獲得するかもしれない。するとロボットは、自分たちと人間の問題意識が異なることに気づくのではないか。そうして両者の利害が割れたとき、ロボットは脅威となる可能性がある。それはいつ起きるのだろうか？ だれにもわからない。今日、ロボットの知能は昆虫程度である。しかし今世紀の終盤には自我をもつかもしれず、そのころには火星に恒久的な入植地が急速に拡大しているだろう。したがって、この問題に今取り込むことが重要になる。あの赤い惑星で、われわれ自身の命運を彼らの手にゆだねるようになってからでは遅いのだ。
