これは怖い。
なにが怖いって、いまもう直ぐにでも起こり得る未来だからである。
「ケイディを守る」ことが最優先の使命であれば、AI人形＝ミーガンはケイディを守るために何でもやる。たとえそれが他人の命を奪うことになってもだ。ケイディに危害を加えるものは犬であろうが人間であろうが保護者であろうが全て敵と判断されるのだ。
AIが自立する知能となるためには、まっとうな人間並み、あるいはそれ以上の高い社会倫理が求められなければならない。それは例えば「人を傷つけてはならない」「人を殺してはいけない」といったルールになるのだろうが、AIがそういった倫理観を最低限の行動規範として持つことは本当に可能なのだろうか。AIが特定の”ある目的”を与えられた時、この作品のように「目的達成の邪魔をするものは排除する」というまっとうな社会倫理からは外れた行動ルールが正当だと判断され、他の人間への攻撃などに繋がることはないのだろうか。（もっとも、まっとうな社会倫理とは具体的にどういうことを指すのか…という議論もあろうが）
AIの機能の高度化に向けた開発ばかりが進み、共通の行動ルールについての話し合いがほぼなされていない現状が…怖い。
