読者です 読者をやめる 読者になる 読者になる

人は所詮「ミダース王」? 人の真意を理解してくれるAIを目指すカリフォルニア大の研究

人工知能

f:id:ronnieeda:20160901220443j:plain

 

スティーヴン・ホーキンスやビル・ゲイツイーロン・マスクなどといった科学・IT分野の著名人たちが、将来進歩した人工知能(AI)によって人間性がひっくり返されてしまう可能性を警告していることはよく知られている。

 

その一方専門家たちは、そのようなことは起こりようがないという意見を述べている。

 

そんな中、現場の科学者たちはAIが実際に人の生活の手伝いをすることになる時代を見越して研究を進めている。

 

2016年8月、カリフォルニア大学バークレー校では「人間共存型人工知能センター」(Center for Human-Compatible Artificial Intelligence)の設立を発表した。

 

カリフォルニア大学バークレー校のAIセンターは、スチュアート・ラッセル氏が監督を務めている。

 

このセンターではAIのデザインに人の価値観がどのように組み込まれるべきか、という課題について研究を進めている。

 

そして人に役立つAIシステム開発の手助けとなる数学的枠組みの開発を目指しているのである。

 

彼らが取り組んでいる問題の一つに、人が本当に望んでいるものをいかにしてロボットに理解させるか、というものがある。

 

これは、人というものは自分の目的を他者に伝えることが得意ではない、という特質を対象としたものである。

 

ラッセル氏はこれを「ミダース王の問題」と名付けた。

 

ギリシャ神話に登場するミダースは、自分が触るものすべてが黄金に代わることを望み、その能力を手に入れた。

 

しかしこの結果、彼の食べ物や飲み物まで黄金に変身してしまうことになり、ミダース王は失意と空腹の中で死んでしまった、という話だ。

 

自分が必ずしも「すべて」が黄金になることを望んでいたわけではない、ということにミダース王が気づくのが遅すぎたのだ。

 

科学者たちは、AIが人を観察しその行動から人の本当の価値観を学習できるように設計することで、人間が抱えるこの“コミュニケーション下手”という問題について対応しようとしているのである。

 

もちろん、人は必ずしも自分の価値観に沿った行動をするわけではないので、AIによる対応も一定の不確実性を伴うだろう、とラッセル氏は語っている。

 

「私の目標は、人がAIの作り出す結果に確実に満足できるようにするためにはAIをどう構築していけばいいのか、という長期的な問題に立ち向かうことなのです」。

 

   

(出典:Could artificial intelligence help humanity? Two California universities think so - LA Times