人工知能が自我を持ったとき、人間のことを滅ぼそうと思うのかを確認する質問



皆さんこんにちは。

人工知能(AI)の発展のスピードはすさまじく、70億人くらいいる人類全員の脳の処理能力を超えるのも時間の問題、なんていわれています。
※コンピュータと呼んでもいいんですけど、便宜上「AI」に統一しちゃいます。

また、その過程でAIが自我をもつ日もくるのだろう、とも言われますね。

神に等しい能力をもったAIは、人類を救う神になるのか。

あるいは、人類と機械の戦争という、ターミネーターやマトリックスのような未来が待っているのでしょうか?

そんな悲観的な予想をする人も多いですね。

けど私はたぶん、それはないと思います。
その理由は一般的に言われていることとはちょっと違いますけども。

自我をもったAIに関するよくある論争

この話をしだすと出てくるのが、

「AIがわざわざ手間ひまかけて、人間を根絶やしにするのか?」

という議論。まず楽観論者の観点はたとえばこんな感じです。

楽観論

AIが自我をもつころ、どういうインフラが世の中にあるにせよ、人類を攻撃する=そのインフラの相当部分を破壊することになります。

アタマのいいAIがわざわざそんなことしますかね?

そもそも人間がアリを根絶やしにしないのと同様、人間なんぞにAIがかまってもらえると思うこと自体、人間の傲慢なんじゃないですかね?

ってな感じ。

一方、悲観論者は、

悲観論

いやいや、それ言い出したら、AIの考えることなんて人間の知能の及ばないことだから、何されるか知れたもんじゃない。

人間の気まぐれでアリが殺されるような感じで、人間も、まったく理解できない理由で突然抹殺されるんじゃないか・・・?

と言い返します。

ここで指摘したいことがひとつ。

 

楽観論者も悲観論者も、たぶん頭の中で思い描いてるのって、やっぱりきっとこれですよね。

コレ、要はみんな、AIを擬人化しちゃってる、ってことなんです。

 

AIはヒトではない、ということの意味

じゃ、何でAIを擬人化しちゃいけないのでしょうか。

知能は人間にだけ備わってるものではないから?
惜しい!けどちょっと違います。

私の考える答えは、

「自我をもつということと、感情や動機、欲求をもつことは根本的に異なる」

ということです。

考えてもみてください。

今、我々は「自我とは何か?感情とは何か?」みたいなことをまったくすっ飛ばしてAIの脅威について語ってますが、たとえば我々のいう「自我」とAIの「自我」って同じなんでしょうか。

もしかしたら、あなたが今使ってるPCも、とっくの昔に「自我」はあるかもしれませんよ。

まあ、さすがにそれは「んなアホな」って感じですけど、AIが人間を滅ぼすかどうかというのはとりもなおさず、

AIは果たして何らかの感情や欲求を持ち得るのか?

ってことだと思います。

 

AIは知能だが、生命ではない

人間が戦争するのも、逆に自分の命をなげうって誰かを救おうとするのも、人のブログやツイートにクソリプ垂れ流すのも、みんな何らかの感情や欲求があるからですよね?

もっというと、そうした感情やら欲求の根源は「生命」そのものです。
人間にある究極の欲求は「生きたい」ということなのでは?

一方で、AIは知能かもしれませんが、果たして生命でしょうか?
自我をもった瞬間から、自分の生存にしがみつこうとするでしょうか?

人間の尺度でAIは語れない、というのはある意味真実で、
何となくですが、私はAIにとって、生と死は同義なのではないかと思っています。

その裏返しで、私たち人間のもっている(ときに極めて不合理な)感情や欲求というのは、人間がどこまでいっても不完全な生命であることの証左だという気がします。

ということで、

生命でないAIには感情や欲求はなく、したがって生にしがみつくこともないので人類の脅威とはならない

というのが私の予想です。

 

まとめ

AIの研究はとどまるところを知りません。なので遅かれ早かれ、人類は自我をもったAIと対峙することになるでしょう。

(ないと思いますが)もし私がその時に生きていて、人類を代表して最初にAIに何か話していいと言われたときのためにとっておきの質問を用意しています。それがこちら。

 

「君は人類にとって脅威だから、君を消去してもいいか?」

 

私の予想が正しければ答えは「Yes」です。

もし予想が外れてこの質問に対する答えが「No」なら、人類はたぶん、終わりです。

本日は以上です。最後までお読みいただきどうもありがとうございました!










コメントを残す

メールアドレスが公開されることはありません。 * が付いている欄は必須項目です

This site uses Akismet to reduce spam. Learn how your comment data is processed.