愚かなる独白

愚かなる独白

ろくでなしの雑記

人工知能で人類は滅亡する?都市伝説ではない本当の話

人工知能 人類最悪にして最後の発明

 

 

 ある本を読んだ。『人工知能 人類最悪にして最後の発明』という本だ。

 

 人工知能については、映画などのSF作品でよく扱われる。そのどれもが、人類を脅威にさらすもので、大抵パニックムービーになっている。そして最終的には問題は解決し、一件落着となる。いくら人が死んでもフィクションだから楽しめる。むしろ死ねば死ぬほど面白い。

 

 だが、こういった展開は果たして映画の中だけの話なのだろうか。

 

 最近、SFの世界でしかお目にかかれなかったようなAIやロボットが、我々の生活にも浸透してきている。確かにそのおかげで生活は豊かになっているし、幸せになれそうな気がしてきているだろう。

 

 AIに関してはぱっくりと二つの意見に分かれる。

 一つはAIの進歩によって、バラ色のユートピアが待っているという意見だ。

 AIが人間の知能レベルを越えれば、人間がやっていた仕事をAIが肩代わりしてくれる。家事や単純労働、事務作業といった仕事、さらには治安維持などの危険な仕事まで、すべてはAIに任せればよい。さらにナノテクノロジーバイオテクノロジーなども一気に進化し、病気や怪我を治し、欲しいものを何でも作り出し、環境問題なども余裕で解決する。最終的に人間は死を克服し、永遠の幸せを手にいれることができるというのだ。

 

 そしてもう一つの意見は、逆にAIが人類を苦しめる。

 AIが人間のあらゆる仕事を奪い、AI同士で戦争を引き起こし、核兵器と同じように、深刻な安全保障問題を引き起こすというものだ。

 

 本書では確かに人工知能を否定しているのだが、このどちらの意見とも違う。

 この二つの意見に共通するのは、どちらも「AIと人類は共存する」ということだ。著者は、人工知能と人間は全くの別物だから、人工知能を擬人的に考えるのは危険だと言っている。

 

 本書を読む限り、決して荒唐無稽ではなく、しっかり筋の通った客観的な論が展開されている。著者のバラットは決して反テクノロジー活動家ではなく、むしろ新たな技術を受け入れているし、こういった人工知能の話題を初めて耳にした時、心を躍らせた一人だそうだ。だが自分で調べて、色んな人の話を聞いているうちに、危険だと感じるようになってきたのだ。

 

 まずAIが今より進歩し、人間と同程度の知能になる。それをAGI(人工汎用知能)と呼ぶ。そしてそのAGIが自己の目的達成のために、自分自身のプログラムを改良し、自己の能力を高める。そのAGIは人間の手を借りずに自ら進化していき、人間の知能を遥かに上回る。その人間以上の知能を、ASI(人工超知能)と呼ぶ。 

 

 そうなった人工知能は、ただひたすら目的の為に合理的に行動しようとする。感情はない。だからASIは人間を利用する可能性がある。

 人間がネズミを実験台に使ったりするように、人間も人工知能に使われる可能性が十分にある。ないと言い切ることができないのだ。

 

 この本について、「映画の見過ぎだ」とか「ターミネーターじゃないんだから」と言って嘲笑した意見も目にするが、具体的な反論を見たことがない。つまり反論できないのだ。人工知能は100%安全とは言い切れない。むしろ危険である可能性の方が多いといのだ。

 

 特に開発者たちが楽観的なことが何よりの問題だろう。

 人類は今まで、どんな技術を開発するときも常にトライアンドエラーを繰り返して進化してきた。だが、今回の人工知能に至ってはそうはいかない。一度開発してしまえば取り返しのつかないものだ。

 

 99%上手く作れてもダメだ。ちょっと狂っただけでとんでもない自体になりかねない。確実に一回で100%の完成度でなければならない。さらに、もし開発できても、人間よりも1000倍も賢い人工知能という歴史上初めての存在がどう行動するかなんてわからない。あくまで全ては予想するしかないのだ。

 

 本当にそんなものを開発してもいいのだろうか。

 これを開発してしまった瞬間に人類は終わるのかもしれない。

 

人工知能 人類最悪にして最後の発明

人工知能 人類最悪にして最後の発明

 

 

僕はわりと悲観論者なので、いい未来が思い浮かばない。

おそらく人類は近い将来滅亡するな。うん。