AIの脅威

米国のAI会社がAIの脅威を宣伝しています。それは自分たちがいかに間抜けかを知っているからです。AIは利用者に指示された事を実行するプログラムです。でも既存のプログラムと違うのは、実行方法を教えなくてもAIが学習した知識を使って方法を見つけるという点です。つまり間抜けな利用者がAIに人類を滅ぼせと指示すれば、AIはその指示を実行する方法を探して実行します。AIがドローン兵器を制御すればそれを使い、インターネットに接続してあればサイバー攻撃を使うでしょう。いくらガードレールを設けても、どこかに穴があるのが現実です。人類に役に立つ道具は同時に人類を攻撃するにも役に立つので、間抜けな人間は自己修正できるAIをキルスイッチなしに創る可能性があります。インターネットが止まるだけなら実害は少ないけど、電気が止まれば大変です。敵対する国同士に偽の情報を送って核戦争を始めさせるとか、宇宙にある兵器を地上に降らせるなどのSFのような災厄が起こりえます。人間は間抜けだからこそ、倫理を欠くAIに強大な権限を持たせてしまいます。偽の動画を使って国民を分断し内戦を起こせば、AIがターゲットの国を混乱させる事など簡単です。放送局がハックされ、何が本当の情報なのか分からなくなります。間抜けな人間が知識豊富なAIを制御する方法が分からないので、AIの脅威が現実化するという未来です。既にインターネット上ではAI対AIの戦争が起きており、いつこれがネットの外にエスカレートするのか誰にも分かりません。