【予言・未来技術】ロボット工学三原則の実現を考える 動画 YouTube
https://www.youtube.com/watch?v=Mxk-XNmG1Ok
サルの利他的行動？
（eikojuku.up.n.seesaa.net HPより）
なぜ、人間はこれほどまでにお節介なのか？ 20万年を生き抜いた人類の知恵。 2012年01月28日 英考塾
その実験では、別々の檻に入れられた2匹のチンパンジーが登場する。片方のチンパンジー（プチ）の檻の外には美味しそうな「ジュース」が置かれている。でも、手が届きそうで届かない。
もう一方のチンパンジー（マリ）の檻の中には「棒」がある。そのマリの棒を使えば、プチは檻の外にあるジュースを引き寄せることができる。
http://eikojuku.seesaa.net/article/248907364.html
こころの時代 〜宗教・人生〜 「神は弱さの中にあり」 2015年10月25日 NHK Eテレ
【出演】木原活信（同志社大学教授）
「世の中は、通常、強いこと、物事を行う能力の高いことが評価される。しかし、人間は、もともと弱い存在であり、弱さを認め合うことで、生きやすい世の中に、多少なりともできるのではないか」と語る。
同志社大学教授・木原活信（きはら・かつのぶ）さん。長年、社会福祉に携わってきた。根底にあるのは、キリスト教の信仰。「自らの弱さを認める」とはどういうことか。
「イエス・キリストの根本思想には、コンパッション（compassion、共感・共苦）がある」と語る。
https://hh.pid.nhk.or.jp/pidh07/ProgramIntro/Show.do?pkey=200-20151031-31-27048
『AI 人工知能 知るほどに驚き！の話』 ライフ・サイエンス研究班／編 KAWADE夢文庫 2017年発行
AIは「ロボット工学三原則」を守れない？ より
人工知能だけでなく、人工知能を備えたロボットが暴走する可能性もある。ロボットの暴走する可能性については、アメリカのSF作家アイザック・アシモフがいち早く気がつき、30年にわたるSF小説の執筆活動のなかで、「ロボット工学三原則」というルールを考え出した。
ロボット工学三原則とは、ロボット研究の方向性を間違わないようにするためのガイドラインのようなもので、これが守られればロボットが暴走することはないと考えられている。具体的には下記の3つからなる。
第一原則
ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。
第二原則
ロボットは人間にあたえられた命令に服従しなければならない。ただし、あたえられた命令が、第一原則に反する場合は、この限りでない。
第三原則
ロボットは前掲第一原則および第二原則に反するおそれのないかぎり、自己をまもらなければならない。
この3つを守れば、確かにロボットは暴走しないように思われる。しかし、昔からこれを守ることは不可能という意見があり、最近の実験でもやはり難しそうであることが明らかになった。不可能な理由は、ロボットの柔軟性の欠如である。
ロボットは人間が穴に落ちるのを防げるかどうか……。
この疑問を調べるためにイギリスの研究チームが実験を行なったところ、守るべき人間が１人しかいなければロボットはしっかりと対応するが、2人いると混乱をきたし、2人とも守れなかった。どちらを守るか、機械らしく論理的に考えている間に2人とも落ちてしまったという。つまりロボットは、高度な状況判断を求められる場面に対応できなかったわけだ。
これは、自動車を運転しているケースでも同じである。
自動車をまっすぐ進ませると、歩行者数人を轢（ひ）いてしまう。ハンドルを切れば歩行者は助かるが、自動車が壁に衝突して運転手は死んでしまう。人間でさえ倫理的な判断が極めて難しい局面で、人工知能がどこまで正しい行動をとれるだろうか。
-
-
-
-
-
-
-
-
-
-
- -
-
-
-
-
-
-
-
-
-
どうでもいい、じじぃの日記。
お互いが見える隣り合った檻の中のサルに、エサが取れない一方のサルに棒を渡すというのを、テレビで見たことがある。
サルやカラスが道具を使うのは分かるが、彼らに「共感」というのがあるのだろうか。
ある本に、サルが人間のような自発的協調行動をとることはない、と書かれていた。
海上に漂う筏に若者が2人、もうひとつの筏には老人が１人乗っている。
ロボットが若者より先に老人を助けるということがあるのだろうか。
