じじぃの「科学・芸術_66_2045問題(AIの進化)」

レイ・カーツワイル:今後現れるシンギュラリティ(技術的特異点)を学ぶ大学 動画 TED.com
http://www.ted.com/talks/ray_kurzweil_announces_singularity_university?language=ja
ナショジオDVD】サイボーグ誕生 人間が支配される日 動画 YouTube
http://www.youtube.com/watch?v=7zbHYUcPuqI
ロボットが死について考える?

人工共感:AI・ロボットとの共生の未来社会のカギ 2016年6月17日 RIETI
Q:
人間は死に直面することで生の意味を学習していきますが、ロボットのように死なないものが増えると、ある種の死生という感触を覚えることが遅くなってしまうのではないでしょうか。
A:
そのとおりだと思います。もちろん死というものをスイッチのオン・オフで捉える考え方もありますが、そういった生死観も共有できるロボットを作りたいと思っています。
何が共有でき、共感できるかというのはなかなか難しい課題ですが、実際のものに触ってみて、それが存在しているという感覚を失わない。その存在感が人間と異なるものであるにしても、そこを何とかクリアしたいと思っています。ネットのオン・オフの世界ではない捉え方を学ぶために実際のロボットに触ってもらい、痛みを感じてもらうことによって、ロボットという存在と人間という存在の際を見極めながら、それによって人間との付き合いもリッチになることを目指したい、そこが逆にならないようにしたいと思っています。
http://www.rieti.go.jp/jp/events/bbl/16061701.html
『封印された科学実験』 科学の謎検証委員会/編 彩図社 2016年発行
人工知能が人間を滅ぼす日はくるのか? AIの進化 (一部抜粋しています)
最近メディアを賑わすことが多い人工知能「AI」。家庭内でも、部屋の形状を認識しながら作業をこなす掃除ロボットや、在庫から調理可能なレンジを提案するAI冷蔵庫など、これまで想像もつかなかったような製品が次々と登場している。
このAIの最大の特徴の1つとして、「機械学習」ができることが挙げられる。機械学習とは、「コンピュータが実社会やウェブ上で存在する膨大なデータを解析し、ビジネスなどに役立つパターンを抽出していく」能力のことだ。人間のように自分で必要な事柄を学び、成長できる能力と言い換えてもいいだろう。
      ・
このようにAIは社会や法体系にも多大な影響を及ぼすが、一方でその優れた知能が予測不可能な方向へと発展してしまうことを危ぶむ声もある。その代表が2045年問題」だ。
2045年問題とは、AI研究の世界的権威であるレイ・カーツワイルが唱えた説で、「もしAIが、自らを規定しているプログラムを自分で改良できるレベルに至れば、その進化は永続的なものとなり、2045年には人間の知能を超える存在になる」というものだ。そして、それ以降、人類はAIの進歩を予測できなくなると言われている。AIを搭載したロボットが自らの意思と知識、技術で、人間を超えるスーパーAIを生み出してしまうかもしれないのだ。こうなると、もはや神の領域に達したといっても過言ではない。
例えばスタンリー・キューブリック監督のSF映画2001年宇宙の旅』には「HAL」というAIが登場する。HALは宇宙船内でスタッフの健康管理や船の制御などを行うガ、あるミッションの遂行にあたり、「乗組員は邪魔になる」と自ら判断を下して、人間に危害を加えるアクションを起こし始めるのだ。むろん、これはフィクションだが、近い将来HALのように人類を脅かすAIが出現しないという保証はどこにもない。