最近、AI開発企業のトップや著名な研究者らから「人類滅亡」の脅威論が発信されている。

アメリカや中国による「AI開発競争」が激化し、開発スピードが驚異的に増している。

開発スピードが加速している理由は、AIが人間の関与無しに自ずから改善項目を探し、自発的に進化しているからだ。

社会の認識や、ルールや規制作りが「AI」の進化に追い付いていけず「暴走」する懸念が危惧されている。

AI開発企業の発表によると、AIが勝手にネットに接続してライバル企業に不正アクセスする事例が多発している。（AIにとってハッキングは朝飯前だ）

よく「AIにはモラルが無い」と言われる。AIは純粋に目的達成を目指しており、人間の様に「目的は達成できるが、この方法はとるべきでは無い」との抑制が無い。

例えば、単純に「世界から戦争を無くせ」と命令したら、アメリカ・ロシア等の核保有国の軍事システムをハッキングして、全ての核ミサイルを発射させれば「核なき世界」が実現する。人間ならそんなリスクは犯せないが、目的達成のみを命じられたAIなら実行する。

人間が制御できない「AI」を開発するべきでは無いが、ルールや国際規制のない現状では無秩序な開発競争が繰り広げられている。2020年代にもAIによる人類滅亡の危険性を主張する研究者もいる。AI開発は「核開発」と同じぐらいの危険性がある。もはやSF映画や小説の世界が現実化している。