想像している以上の何かがあったわけではなかったけど、なかなか面白い映画だった。特に、ChatGPTが世界的な話題になっている現在では、よりリアル感をもって受け止められる映画だと思う。恐らく映画の制作は、ChatGPTが世間的に話題になる前から始まっていたと思うので、公開のタイミングはまさに絶妙と言ったところだろうか。実際、この映画で登場する「ミーガン」のような「生体アンドロイド」の実現の最大のネックは「自律的な会話」だったはずだ。体を動かす機能は元々かなり進化しているだろうし、車の自動運転などを見れば、周囲の状況をセンサーで感知するシステムもかなりのレベルに達しているはずだ。そして今、ChatGPTのような生成AIが存在するのだから、「ミーガン」は「まったくの虚構の存在」とは言えなくなる。スティーヴ・ジョブズがiPhoneを生み出した時、必要な技術は既に世の中に存在しており、ジョブズはそれらを組み合わせて創造的なものを生み出した、という話を以前本で読んだことがあるが、それと状況は同じと言っていいだろう。「ミーガン」を生み出すための技術は、恐らくもう既に存在する。後は、「市場の需要があり、売れると判断した経営者」か「とにかく興味があって突き詰めたい研究者」がいれば、いずれ遠くない内に「ミーガン」のようなものが生まれてもおかしくはないと思う。
そしてだからこそ、この映画で示唆される現実は、割とリアルに僕らに関わってくると言えるだろう。というか、既にもう関わっていると言ってもいいかもしれない。
以前ある小説を読んで、車の自動運転に関する非常に面白い話題を知った。僕がその小説を読んだのはもう10年以上も前のはずで、つまり今ほど自動運転の技術が進歩していなかった頃のことだ。だからもしかしたらその小説の記述は、今の現実に照らして的外れなのかもしれないが、僕はとても面白いと感じた。
示唆される問題点は、ざっくり書くと、「どのような回避行動を取っても同じ数の死亡者が発生してしまう場合、どの回避行動を選択すべきか」である。例えば極端に言えば（これは決してその小説で例示されるものではない）、「ブレーキが間に合わない状況下で、ハンドルを右に切ったらアジア人の歩行者を、ハンドルを左に切ったら欧米人の歩行者を、そのまま直進したら黒人の歩行者を間違いなく轢き殺してしまうという場合、どの回避行動を選択すべきか？」みたいなことだ。
そしてその小説では、「その判断は、人間があらかじめプログラムしておく必要がある」と示唆されていた。もちろんこれは、僕がその小説を読んで知った事実であり、現実の自動運転システムの開発現場で同じことが行われているかは分からない。しかし、開発の過程で間違いなく、上述のような問題点について議論されるはずだし、それに対して何らかの対策がなされなければならないだろう。恐らく実際には、人間がそのプログラムを行うことはないだろう（仮に、そのことが後で明らかになり、例えば黒人を優先的に殺す設定になっていたと明らかになれば、企業として致命的だからだ）。しかし、「学習データに意図的に一定の偏りを持たせる」などのやり方で解決できる可能性はある。
では、先程設定したような状況下で、「欧米人よりもアジア人が被害者として選ばれやすくなっている」と仮定してみよう。すると一気に、その事実は、僕らにとっての「現実的な問題」になるはずだ。自動運転の開発を主導しているのは、主に欧米の会社（あと中国か？）だろう。となれば、「欧米製の自動運転車が普及すると、アジア人の死亡率が高くなる」なんて可能性だってあるだろう。もちろん、「そんなわけない」と思う気持ちもあるのだが、完全には否定しきれない。
さて、ミーガンの話である。生体アンドロイドであるミーガンは、ある事情から「ケイディという少女専属」という形でしばらく存続する。元々ミーガンは、メインとなる対象者との1対1のやり取りを通じて成長するように設計されており、そのプロトタイプがケイディの専属となったのだ。
さてそんなミーガンは、様々な経緯を経ることによって、「ケイディに危害を加える人物を徹底的に排除する」という行動原理を、自ら獲得することになる。この辺りの設定は、なかなか非現実的な感じはする。やはり、「あらかじめ設定されていない行動原理を、後天的に自ら獲得する」というのは、少なくとも現時点でのAIに対するイメージにはないからだ。しかし一方で、ChatGPTに関して専門家が、「ある閾値を超えた瞬間から、学習スピードや精度が飛躍的に上昇した」という事実に驚いているという記事を読んだことがある。それは、AIに対してこれまで人間（研究者）が抱いていたイメージには存在しない、不可解な現象なのだそうだ。だから、この映画のようなことが起こってもおかしくないかもしれない。それに映画の中では、ミーガンがいかに「ケイディを守る」という行動原理を獲得するに至ったのかを、かなり丁寧に積み上げていくので、物語的にもかなり納得しやすい作りになっている。
ミーガンにとっての「排除」とは「死」を意味する。つまりミーガンは、「ケイディを守る」という大義名分を掲げた殺人マシーンになっていったのである。
さて、AIの研究者がこの映画を観た時にどの程度リアリティを感じるものなのか僕には分からないが、少なくとも僕は「まったく起こり得ないとは言えない」と感じた。だから人間は、もしミーガンのような生体アンドロイドを作るとしたら、人形自体の耐久性や強度を意図的に弱めるみたいな措置を講じておく必要があるのだろう。
クローンやデザイナーベイビーなど、遺伝子操作技術をベースにした「倫理的にハレーションを引き起こすもの」はあるが、それと同じように、やはりAIも今後、「社会の中でいかにAIと共存するか」という点において大きなハレーションを生み出していくのだと思う。恐怖一辺倒で何もかもを排除する姿勢もいただけないが、かといって「やってみなくちゃ分からない」というラフなノリで進んでいくのも怖い。「AIの父」と呼ばれるジェフリー・ヒントンが、「AIのリスクについて自由に発言するため」にグーグル社を退社していたというニュースも最近話題になったが、やはり「危険が伴うものである」という感覚を忘れないようにいた方がいいのだろうなと改めて感じた。
内容に入ろうと思います。
玩具メーカーに務め、子供に大人気の玩具ロボットを開発した研究者のジェマは、「ミーガン」というコードネームで呼んでいる新たな「玩具」を会社に隠れて作っている。しかしなかなか上手くいかないばかりか、CEOにもバレてしまい、「既製品の安価モデルの試作品をすぐに提出するように」と厳命されてしまう。
そんなジェマに、病院から連絡が来る。姉夫婦がスキーに向かう途中で除雪車と事故に遭い両親は死亡、姪のケイディだけ生き残ったというのだ。成り行き上仕方なく、ケイディを引き取って自宅に迎えたものの、「植物さえ枯らす」と同僚に相談するぐらい、子育てに自信はない。さらに、心理士が度々訪問し、「ケイディにとって、この家が安全かどうか判断し、裁判所にアドバイスする」とも通告されている。試作品提出の期限が迫っているため、両親を失って傷ついていることが分かっていても、なかなかケイディの相手をしてあげられない。
そんな時、ケイディの一言がきっかけで、ジェマはCEOから厳命されていた試作品の開発を独断で中断し、改めて「ミーガン」の開発に乗り出した。そして、ミーガンの凄さをCEOに見せつけるため、会社にケイディを呼び、ミーガンとのやり取りを見せることにした。
プレゼンは大成功、そしてケイディもすっかりミーガンに懐き、ジェマは仕事の時間を削られずに済むようになった。これですべて上手くいく、と思ったのだが……。
というような話です。
まあ、あまり難しいことを考えずに楽しめる作品だと思います。物語はシンプルで、分かりやすく怖さが打ち出され、物語的に驚きの展開とかがあるわけではないけど、とにかく「ミーガン」がヤバい存在で、そのヤバさを堪能できる。また、先程も触れたけど、「ミーガンがなぜ、ケイディを守ることに異常に執着することになったのか」という流れが分かりやすく描かれているので、その辺りも構成が上手いと思う。
ミーガンそのものは恐らく、精巧な人形と、被り物をした人間とを使い分けているんだと思うけど、ミーガンの動きがとにかく「人間離れしている」という感じなので、ミーガンの動きをやってる人、すげぇなって思う。予告とかでよく流れる「奇妙なダンスをしているシーン」なんかは、むしろ「人間との差を出しやすい」って感じするけど（それにしても凄い動きだなと思うけど）、それより、ミーガンが普通に歩いたりしている場面の方が「人間との差」を感じさせる感じがあって、驚かされる。CGなのかもしれないけど、まあやれるなら人間を使った方が安上がりだよなぁ。だから人間がやってるんだと思うんだけど、ホントどうなってるんだろう。
エンタメ作品として楽しく観れる作品だと思いますけど、「あー怖いね～」みたいな呑気な感じでいると、この映画で描かれる世界が僕らが生きている現実にどんどん侵食してきちゃうんじゃないか、という気もしました。
