映画としては微妙なんですが、お話の着想は非常に面白いです。
これ、キューブリックのHALから続く、「コンピューターは意識を持つべきか否か」の解答提示ですね。 まあ、答えは簡単で、幾らナノテクノロジーやAIが発達しても、コンピューターに意識を持たせちゃいけない、暴走するし、暴走したら誰も止められないからダメでしょう、ということなんですが、ポイントはそこじゃないんですよね。
冷静に考えれば当たり前のことなんですけれど、人間の動きをCGで完璧に再現するためには、モーション・キャプチャーでデータを拾ってから、それをブラッシュアップして仕上げるってのが最終的な結論だった訳ですから、人工知能にしたって、膨大な計算をするんじゃなく、存在するある特定の人物の意識を解析して、それをコンピュータに乗せてからと考える方が常道なんです。 ですから、中途半端で非絶対的で不完全なものとして作る訳です。 いつでも再調整可能なようにね。 それが致命的な失敗を起こさせないためのセーフティガードになるのです。
だから、逆に考えれば人間を完全にデータ化する（完璧に同じものを作る）、という設問自体が危険だということにならないといけないんです。 神はデータ化できるんですよ。 だって、聖書やコーランに書いてあることが全てなんですから。 そこが前提にあれば、コンピューターを神化するってことがどれだけ危険かってことになる訳でね。 日本人のような汎神論の民族にとってみると、ネット化された時点でキリスト教のような教条主義的な規範で規定されるなんて考えただけで恐怖ですよ。
つまりね、この映画の失敗は、クラウド上の人格になってしまったジョニデの暴走を止めたのは結局「愛」だったってことにしちゃったからです。 ということは「愛」って結局データ化できるんかい、解析した「愛」など嗜好に過ぎないじゃん？になっちゃうんですよね・・・(笑)
