本作はまずAIなどの機械すべてを「悪」とみなしているわけではなく、豊富な実例によって的確に問題点を指摘する作りのため、とてもわかり易い作りになっています。以下がポイントとして挙げられています。
①人間が差別や偏見にまみれているのだから、アルゴリズムも不平等で破壊的になり得る。そのため、特定の人間から大量の歪んだデータを覚えさせられるAIにも差別や偏見が潜む可能性がある。それにもかかわらず、AI の問題になると人は差別的だったことを忘れ、ビッグデータを盲信してしまう。
②「アルゴリズム」＝「数学モデル評価査定ツール」＝「ブラックボックス」。算出実態は不透明で、理解も難しく、説明責任もない。
③そもそもAIも絶対ではなく、顔認識システムの精度も低い。
AIの世界が今いる世界の複製だとしたら、世界から差別はなくなっていない証拠ですよね…。AIと人間が合わせ鏡のような関係になることで、この世に差別や偏見が潜んでいる事実が露わになっていく現状は皮肉を感じます…。
https://www.shimacinema.com/2021/04/05/coded-bias/
