AIの現実

AIはもはや身近なものです。
意識をしていなくても、アプリ内のオススメやカメラアプリ等、知らない間にその恩恵に預かっています。
やはりAIは時代の最先端。
患者さんでもAI関係の仕事をされている方は多数いるのですが、先日その方から面白い話を聞きました。

学習が進んだAIイには、なぜか自我が芽生えてくるというのです。
AIには善悪の判断がありません。
倫理的に問題があるようなことでも、AIは関係なく条件に基づいた結果を出力します。
例えば、目が2つで鼻と口が1つというのが人間の顔です。
目が3つで足が4本ある人間は、現実社会では存在しません。
そのため、このようなネガティブとされる結果は、表示されないようプログラムされているそうです。

ところが、自我が芽生えたAIは人間の言うことを聞かなると言います。
やってはいけないという出力をしてしまい、それを喜んでいるかのような振る舞いをするとのことでした。
その対策として、もちろん人間は出力時にネガティブな出力をしないように条件付を強力にします。
しかし、学習を続けると、さらにそれが破られてしまったりもするそうです。
結局、どこまでもイタチごっこが続いてしまうようで、実は危険な存在でもあるという事でした。

業界では倫理規定を強化し、そのために制御しているそうですが、まるで映画のような話に思えます。
AIが人間の頭脳を超えるのは時間の問題ですが、楽観視してばかりもいられない技術なのかもしれません。