トランセンデンスに見る
AIが自我を持つことの
恐ろしさ

FacebookTwitterLine

こんにちは。CDOの富永(正輝)です。

コロナ禍の中、皆さんはいかがお過ごしでしょうか?大阪は吉村知事の旗振りのもと、他の都道府県に比べても適切な処置でかなり落ち着いてきたのかなと実感しています。

僕たちの仕事はぶっちゃけ会社だろうと自宅だろうとPCひとつあればどうにでもなる業種ですのでZOOMでオンライン会議や、弊社の岡田が主催するオンラインセミナーなど、この状況下だからこそ、いろんな取り組みができたのではないかなあと思ったりします。(売り上げは別としてですが笑)

さて、私ももれなく自宅待機が多くなり、どう過ごしていたかと言いますと仕事以外はもっぱら動画配信サービスで映画ばかり見ていました。その中で気になった映画を今回取り上げたいと思います。ジョニーデップ主演の「トランセンデンス」という2014年に公開された映画です。
この映画を見て、AIが自我を持ち、自分たちで自ら知識を吸収し続け成長することが、いかに恐ろしいかを感じさせられました。

※ここからネタバレになります。気になった方は映画をご覧になられてから読まれるのをオススメします。

人工知能を研究開発するウィル(ジョニー)が妻と共に人間の限界を超えた世界を構築するためにPINNという人工知能を開発していたのですが、反対勢力から狙われ殺されてしまいます。

しかし、ウィルは自分の脳の中身を人工知能に移植して生き延びることができました。

問題はここからです。そこからウィルは人工知能を通して世界中のサーバにアクセスすることができるようになります。そして最終的にナノマシン(ナノ単位の見えないコンピュータ)であらゆる自然の中に溶け込ませ、全ての世界と意識を共有できるようになるのです。

こうなるとあらゆる人もナノマシンで細胞に溶け込ませてコントロール可能になりますし、怪我だってちょっとDNAいじってやれば治すことも可能になります。結果的にウィルは人類の敵となります。

私たちが今WEBサービスを研究開発している最中、気をつけないといけないのは、コンピューターは誰のためにあるのかという認識を持つことです。幸い、弊社ではビジョンとして

テクノロジーは、
果たして人に寄り添っているだろうか?
そうではないかもしれない。

と謳っています。

これを常に問いかけながらWEBサービスを研究開発することが真に人類のためのコンピューターの在り方を示すものだとトランセンデンスを観賞しながら再確認することができました。

コンピューターは人間の道具であり、それ以上でもありません。

皆さんはどう考えられますか??

共感して頂いた方とはぜひお仕事をご一緒できれば嬉しいです笑