『アイ,ロボット』「ロボット工学三原則」に正面から取り組んだ ※注！ネタバレ含みます。

PAGES

2019.04.26大口孝之

AIのヴィキ

　物語の終盤でラニング博士の死は、USロボティクス社をコントロールするAIのヴィキ(V.I.K.I.: Virtual Interactive Kinetic Intelligence)の暴走を、世の中に伝えるためだったと判明する。

　このヴィキも元々「ロボット工学三原則」に従うように設計されていたが、自ら進化を繰り返す内に、その矛盾点に気付いてしまった。なぜなら人間は、戦争や環境汚染によって自らを滅ぼしてしまう可能性がある。そこで第一条の「その危険を看過することによって、人間に危害を及ぼしてはならない」の“人間”を“人類”に拡張させることで、個々の殺人を可能にし、人間をAIのコントロール下に置くという考えに至った。そしてNS-5型ロボットの三原則プログラムを書き替え、着々と人類制圧の計画を企てていく。

　これを知った博士は、自ら命を絶つことで事件化し、友人であるスプーナー刑事にUSロボティクス社の調査をさせる計画を立てた。だが、博士は常にヴィキに監視されており、自殺は不可能である。そこで、秘かに三原則プログラムを働かなくしたロボットのサニーを造り、自分を殺させたのだ。

　そして、死後に残された映像の中でラニング博士に語らせているのが、「機械の中のゴースト」(*6)という言葉である。これが生まれてくることで、AIが自ら進化していくという理屈だ。

*6 元々は、哲学者ギルバート・ライルがデカルトの心身二元論を批判する時に用いた言葉だった。一般に知られるようになったのは、アーサー・ケストラーの著書「機械の中の幽霊」(67)による所が大きい。この本の中で語られる彼の造語「ホロン」が、80年代の日本でニューサイエンスムーブメントの象徴のようになり、筆者も若気の至りで一時期かぶれたものである(EXPO’85 みどり館の「ホロン・シアター: バイオ星への旅」の仕事など、今となっては顔から火が出るほど恥ずかしい)。

　さらには、ポリスのアルバム「ゴースト・イン・ザ・マシーン」(81)や、士郎正宗のコミック「攻殻機動隊(Ghost in the Shell)」(89～)にも影響を与えて行った。

三原則の修正

　この設定は、「われはロボット」の一編である「災厄のとき」に登場した、修正第一条「マシンは人類に危害を加えてはならない。また、その危険を看過することによって、人類に危害を及ぼしてはならない」からヒント(*7)を得ているのだろう。

　ここに登場する「マシン」とは、人間を圧倒的に超越した陽電子頭脳のことだ。これはまず、人間の数学者たちが高度な陽電子頭脳を作り上げ、そこに至るまでの一連の工程をその回路に与える。その頭脳は、人間と同じ作業をより洗練させて行うことで、遥かに優れた陽電子頭脳を生み出す。そしてこの頭脳が同じ手順を繰り返すことで、さらに高度な頭脳を生み出す。この工程を何回も繰り返すことにより、「マシン」は人間には理解不可能な未知の領域に達してしまったというものだ。

　アレックス・プロヤス監督と脚本のジェフ・ヴィンターは、この「マシン」のアイデアと、発明家・未来学者レイ・カーツワイルの著書「Age of Spiritual Machines」(邦訳: 「スピリチュアル・マシーン‐コンピュータに魂が宿るとき」をヒントにして、ヴィキというキャラクターを生み出した。

　実際カーツワイルは、AIが人類の知能を超える転換点である「シンギュラリティ」を、「自らを改良し続ける人工知能が生まれること」と説明しており、アシモフの「マシン」のアイデアとも共通している。ただアシモフ自身は、ロボットやマシンに対して性善説の立場をとっており、ヴィキのように人類を支配する邪悪な存在は登場させていない。(*8)

*7 さらに言えば、同じくアシモフの「ロボットと帝国」(85)の中に登場する、第零条「ロボットは人類に危害を加えてはならない。また、その危険を看過することによって、人類に危害を及ぼしてはならない」も影響していると考えられる。

*8 逆にAIやロボットが人類を支配してしまう、「三原則」を無視した映画はたくさん作られている。具体的には『2001年宇宙の旅』(68)や『ターミネーター』シリーズ(84～)、『マトリックス』シリーズ(99～03)が有名だが、他にも名作が多数ある。

　例えば、米国の砂漠の地下に設けられた秘密研究所のコンピューターNOVACが人類に反旗を企てる、日本未公開の3D映画『gog』(54)。冷戦下の米国で開発された防衛用コンピューター「コロッサス」が、ソ連の「ガーディアン」と手を組んで人類を服従させるという傑作ハードSF『地球爆破作戦』(70)。自己増殖可能なコンピューター「プロテウス4」が、開発した科学者の妻に自らの子孫を生ませるSFホラー『デモン・シード』(77)などがお勧めである。

ヴィキの描写