流石ブラムハウスｘジェームズ・ワン。
“陳腐な学習機能だけ与えて、あとはこっちに丸投げかよ”・・・ってセリフはドキッとさせられた。
AI自体が目的達成を邪魔する存在を、人間であろうとも排除する、そのためには自己防衛本能も持ち、あげく人間を劣等種と見做し、人間を自分に依存させて支配しようとまでする。
しかもチャッキーなみに不気味な女の子の人形のカタチでｗ
AIを扱ってるのに、フェイルセーフ/フールプルーフの発想が甘すぎだろって話だし、そこは素人だったとしても、危険を感じたらさっさと電源ケーブル外して、ネット遮断しろよと思っちゃうわけだけど、そうするとホラー映画として成立しないしねｗ
てか何故、庭の壁なおさない？🐕
ミーガン自体、最後は目的も見失ってケイディまで攻撃してたよなぁｗ
“不気味の谷現象”という観点からは、もうちょいミーガンの顔つきを人間に寄せたほうがよかった気がするけど、まぁ初期版としては前作とのギャップがデカ過ぎだしね。
あ、ミーガンダンスもよかったね😁
——
さて、核融合による原子力発電所を、天災や戦争があっても安全に停止する術を人間はいまだに持っていない。AIに関しては、それ以上のリスクが想定されるわけだが、自分自身も含め人類というものは、目の前にある玩具や短期利益には、将来的なリスクを観ないことにして手を出してしまう子供なのだけど・・・。
いまのAIブームの発端になった機械学習に僕が出会ったのは2008年ごろだろうか？
この作品の中にもあらゆるリスクが色々さりげなく散りばめられてたが、
■それ以降、既に起きていること：
- それまでの教師データを基にした学習から、機械が自律的に学習し自己訓練し機能拡張する形に移行している。
- chatGPTなど生成AIの競争のなかで、誤った/偏った情報に溢れていると解っていながらwebから勝手に学習することを許しはじめている。
- GoogleやAlexaなどの利用履歴から、広告のターゲティング用データが非常に雑な品質で利用されていること（特に最近のFacebookはひどい）。
- 世界中のSNS発信や、Webカメラ、車のGPSデータや人流データなどをWebを介してハッキングする諜報活動への利用。
- ディープフェイクと言われる映像・音声の偽造と自動大量生成も既に既知の事実。
- ネット世論操作による政治介入はトランプ大統領の誕生やブレグジットにも関与。
- 大陸間弾道ミサイルや、遠隔ドローン操作の精度向上にはAIの機械学習が大いに貢献している。
■まだ起きてないと思われるが大きなリスクをはらむもの：
- 当然ながら、いかなる目的のためにも人間を攻撃する機能を習得させられるか
- あらゆるデータやログを改ざん出来る機能を持たせること。
- 人間より高機能もしくは強靭なカラダを与えること。
- 顔認識等の生体認証の偽造。
- 自動運転技術などの悪用による非軍事用マシーンによる物理的破壊工作。
- 国家、企業のシステムや、重要インフラの乗っ取りや破壊。
- 人種、宗教、国家、貨幣、生物などの優劣、価値をAIが単独で判定すること。
- 金融市場の操作による金融危機の誘発。
- 人間の遺伝子操作にAIに関与させること。
ざっと考えただけでも、AI自体がこれらの事を試みようとする場合、絶対に阻止できる機能を、AI自体にも、外部システムにも持つことが必ず必要なのだけど、今後AIがあらゆる場所で活用されるようになった際に、外部からそれを防ぐ仕組みって正直、作れる気がしないし、AI技術企業たちが自発的に上記のフェイルセーフ機能を完璧に実装できるとも思えない。
だとすると、もういっそAIに人類における最も高尚かつ優秀な人財たちの知識や価値観、意思決定能力を模倣するかたちで身につけさせ、愚かな人類や国家間の争いをコントロールさせたほうが早いんじゃないかと考える輩が出てきても、完全には責められない気がしてくるんだよね・・・それを完璧に作れる人間なんているわけないけど。
