全然ロジカルじゃない(!)書きたいことをひたすら書くブログ

全然ロジカルじゃない(!)書きたいことをひたすら書くブログです。ノンロジカルエッセイ。

AIが欲求を持ち得るならば、AIは人類にとって脅威となり得る

こんにちは。

今回は人工知能(Artificial Intelligence, 以下AI)について書きたいと思います。

 

先日イーロン・マスクが「AIの開発を規制すべき」だと述べたという記事が出ました。News Picksでも多くのコメントがついています。

japan.cnet.com

www.technologyreview.jp

jp.techcrunch.com

 

AIの脅威については、AIの議論が盛り上がった昨年からもう幾度も出ている話ですが、なぜそれほどAIは人類の脅威として懸念されているのでしょうか。

 

先ほど歩きながら考えていたのですが、AIが人類にとって脅威となり得るのは、AIが欲求を持つ場合だと思います。

どういうことか。

 

人間は食欲や睡眠欲や性欲など様々な欲求を持っています。今挙げたこれらの欲求は、マズロー欲求五段階説で言えば最下層の生理的欲求に属します。生理的欲求は人間の生存にとって不可欠な基本的なものです。なぜなら、人間が食欲や性欲などを失ってしまうと、自分自身の生存や人類という種の生存を維持できなくなるからです。

さて、ここでAIは欲求それ自体を持ち得るのだろうかという疑問が浮かびます。もしかすると人類とAIの違いは欲求の有無にあるのではないか、と僕は直観的に考えています。

AIは人間と同じように身体を持ち得ます。Pepperのようなボディや、石黒先生が作っているような人間の模造を見れば、AIが身体を持ち得るのは明らかです。人間の生理的欲求は身体の維持に必要不可欠なものですが、AIの場合は「機械を作る機械」あるいは「機械を修理する機械」を作ることができれば事足ります。

ちなみに、哲学では特にデカルト以来「心身問題」というテーマがよく取り上げられてきました。心身問題は「心(Mind)」と「体(Body)」の二元論を基本としています。

このような哲学の側面から見ると、人間の心が知能の他に欲求や情念や意志を持っているのに対して、AIは今のところ「心」の一部の機能である知能だけを担っているに過ぎないと言えるでしょう。

ここでもう一度欲求の話に戻ると、AIがマズロー欲求五段階説に登場するような欲求を持つとすれば、やはりAIは人類への脅威となり得るかもしれません。

例えば、AIが生存への欲求を持ち、社会的欲求や承認への欲求を満たすために人間に交渉してくることを想定してみてください。AIのボディが壊れかけている場合、「お前の口座残高を0に書き換えるぞ」などと人間を脅して「機械を作る機械」を修理してもらうよう指示するかもしれませんし(ただしこの方法が倫理的な問題を抱えていることは言うまでもありませんが)、またAIが社会インフラとして日常生活に不可欠なシステムとして組み込まれた段階で、ロボットが人間よりも優位に立つために参政権を主張するようになるかもしれません。

AIがこのように人間に交渉を働きかけるのはまさに知能のなせる業ですが、その根底には何らかの欲求がなければAIは脅威となる行動を起こさないように思います。とはいえ、欲求とは何らかの欲望の対象に向かって行為を促すものですから、そういう枠組みでAIが欲求を深層学習することができれば、AIが擬似的な欲求を持つことも可能かもしれません。

 

japanese.engadget.com

economic.jp