読者です 読者をやめる 読者になる 読者になる

「人に危害を加える判断」ができるロボットを完成 AIについての議論に一石を投じる

f:id:ronnieeda:20160614225017j:plain

 

人に痛みを与えるかどうかを自分で判断するロボットが開発された。

 

開発したのは米カリフォルニアにあるバークレー大学のアレクサンダー・リーベン氏。

 

リーベン氏はロボットの専門家であり、またアーティストでもある。

 

このロボットは、人の指にちくりと刺すような痛みを与えるという基本動作を備えているが、その一方でたとえ痛みを与えることができるときでも、痛みを与えないという選択ができる。

 

リーベン氏はこのロボットを「第一原則」と名づけた。

 

これはSF作家アイザック・アシモフの「ロボット工学三原則」に由来している。

 

アシモフの第一原則は「ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない」というもの。

 

リーベン氏は、このロボットの出現によって人工知能(AI)についての議論がより深まることを期待しているという。

 

「AIについての本当の心配事は、AIが私たちのコントロールの効かない存在になってしまうことだ」

 

「ITの大企業はもうすでにAIはそこに来ている、という。しかし手遅れにならないうちに、よく考えよう。私は「人に危害を加えるロボット」として、今日存在しうるものを作ってみた。この現実について真剣に向き合うべきだ」 とリーベン氏は語っている。

 

「もし「殺人スイッチ」が可能になったらどうなるだろう?もしロボットが利口になりすぎたら、殺人スイッチを切ることができなくなるんじゃないか?」

 

「私が作ったロボット「第一原則」は、製作者である私ですら予測できない決定をするロボットだ。つまり誰がちくりとやられて、誰がやられずにすむか、誰にも分からないのだ」

 

www.bbc.com