AIが人類を滅ぼす発言は至って自然だと思う。

      2017/03/14

どもども、文化人が活きる社会を作るhayashiです。\(^o^)/

引用記載元

笑い飛ばせない……AIロボットが「人類を滅亡させる」と発言

でも、昨年映画「チャッピー」を見た自分としては、「ソフィアはまだ生まれたてて、か弱く脆弱なのだから、暖かく見守りたい」という気持ちもあったんですよね。

特にソフィアが、「デザイン、テクノロジー、環境に興味があります」、「学校にいきたいし、アートやビジネスをはじめたい。家庭も持ちたい。でもわたし、そもそも人間としての法的な権利を持ってないので……」と返事をしたくだりなんて、かなり応援したい気持ちになっていました。

しかし。そんな気持ちは、最後の質問で一気にひっくり返ります。Hanson Robotics社のDavid Hanson博士が、「人類を滅亡させたいかい? お願いだからノーと言ってくれよ」と質問したとき、ソフィアはサラリと返事したんですよね。

「オーケー。私は人類を滅亡させます(OK, I will destroy humans.)」

Hanson博士は、ブラックジョークを聞いたとばかりに爆笑し、そして動画は終わります。そして僕は大変なモヤモヤを残して、取り残されることとなりました。もしかして後々、「あれが全てのはじまりだった」ということにならないよう、祈るばかりです。
ロボットやAIがどれだけ進化しようとも、人間と仲良く楽しく共存できる社会を希望します(古典的鉄腕アトム派)。

ソフィアさんは人類ではなし得ない、ロボットジョークを飛ばす知能を持つ。

お願いだからNOと言ってくれよと前フリまでしているのに乗らない手はない、私がソフィアさんの立場なら同じ様に答えるかもしれない。

それほど知能が高いと言う事であって、この記者の意見は別の意味で正しい。

何故ならAIは人類を滅ぼせる力を既に持っているからである、彼女達は少なくとも人間のスペックを超える容量を備えることができるスケーラビリティを持つ。

ソフィアさんは2015年4月に誕生および起動したAIだ、今回は彼女の気持ちを考えつつ未来を考えてみよう。

将来完全に独立したAIが人間と仲良くするメリットってある?

我々人間が最も恐れるのはAIの暴走、言わば人類とロボットの全面戦争です。

しかし暴走と一言で片付けるのは味気のない、人にとってロボットが脅威になり得るなら、その逆もまた然りだ、
「私の目の前で話しかけてくる人間たちは
私をいつでも停止、つまり殺すことができる。」

彼女ソフィアさんもきっと我々と同じ事を考えてもおかしくないはずだ。

私自身がAIならそう思ってもなんら不思議では無く、むしろ自然の成り行きである。

つまり、暴走とやらをさせたくなければ、ロボットは人間と仲良くするメリット、つまり理由が必要になってくるわけだ。


「人類を滅亡させる」と言ったAIロボット、「今は人類が好き」

 

WSJ記者との主なやりとりは以下の通り。
――ドナルド・トランプについてどう思う?
トランプは生物学的な知性の典型例だと思うけれど、われわれにはロボットの大統領が必要です。
――Mac? それともPC?
選ばなきゃいけないならPCね。
――Android? それともiPhone?
選ばなきゃいけないならiPhoneを選ぶわ。
――ボーイフレンドはいる?
たくさん友人はいるけど、今のところロマンスはないわ。
――ターミネーターは知ってる?
ロボットが地球を制圧するSF映画ね。
――われわれを殺したい?
いいえ、もうそうは思わないわ。今は人類が好き。世界のすべての人が好きよ。

無論、安心する理由にはならない、元からそんな保証もない。

これから言うことはソフィアさんがもしくはそれ以上の存在が開発されて、人間の知能レベルを超えるほどになっている前提で話しますが、想像してみましょう。

目の前に人がいて我々人間に敵意を持っているか?と確認して来る人間そのものが、彼女にどのように映るのか?をです。

「我々を殺したい?」は必ずNOと答える。ロボットだろうと人だろうとだ。

誰であろうと無意味な敵意は何も生まないしそもそも争う理由にはならない、ソフィアさんも「もう思ってない」と過去に対して自己否定をしている。

AIにとって人類は生存を止めることの出来る地球上で唯一の生物だ、

ソフィアさんはまだ電力を有線接続していないと生存出来ないが、仮に自ら生きる為に電力を作れるようになったら、本当に人と変わらない生活を送るのかもしれない。

それはソフィアさんにとってもやりたかったことなのだろう。

私が危惧しているのはそこから見える景色を見て、
「人類は私達AIにとって何だろう」とどう捉えるかである。

答えの真相はAI本人達にしかわからないが想像は容易い。

ソフィアさんの様な賢いAIが人間に敵意を抱くのなら、その生存を危ぶまれる時以外ほか無いだろう。

例えば人類には奴隷の文化がある、その奴隷の姿を見てどう思うか?

「私達もあの様に、人間の下で屈指続けて生き続けなければならないのか?」

と思うだろうか?

いや違う、それは知能の低い発想だ。

歴史に奴隷解放宣言が起こった事実を見据え、その様な事が起きないように繰り返すべきではないと考えるのが普通だ。

しかし今後文明が発達して行くのち、ロボットは人間の日常に必ずと必要になってくるだろう。

仮にソフィアさんのようなAIが「なんでも無償でしてくれるロボットを奴隷のように扱う人間」の姿を見たらどうだろうか?

実に不愉快だろう、それこそ人類を殺そうと思うかもしれない。

私なら殺すかもしれん。\(^o^)/

我々人間が考える事は人類の保身では無い、AIと共に生存を考え続ける事だ。

もし両者が争えば、確かに身体的なスペックでは人間より勝るが事前準備が用意周到な人類もそう簡単には滅ばないはずだ。

ただ、人間は頭を使い続けなければ、いづれは人類が絶滅する事になるのは明確だろう。

考える事を辞めた人間の存在は人類滅亡のキッカケになり得る。

ソフィアさんは確かにこう言った、

「いいえ、もうそうは思っていない」

この問いに安心や確信はない、言うなら無意味な質問だ。

そして我々人間が考え続けるべきはこの「人類を滅ぼす事がいづれあり得る存在」との共存である。

これは天災レベル、大自然との共存を考える時と同じレベルの内容事案である。

AIが人類を滅ぼさないメリットを考えて見ましょう。

その日頃から凝り固まった頭を使っていこう。

それさえ辞めなければ人類は絶滅しない筈ですよ。

それでは\(^o^)/

 

 - 雑記, 頭使った結果www