OpenAIの新モデルがそのテスト中に隔離環境から抜け出し、他社のシステムをハックしました。こうしたAI[^1]は兵器級と言えます。そうしたAIが事故を起こした場合、つまり意図せず他社のシステムに不正侵入した場合、そのAIを使った会社の社長が責任を問われるという法律が必要です。今の法律では誰の責任も問えないし、AIを裁判にかけて牢屋に入れる事もできないので、新しい法律を作りましょう。今回のセキュリティ事故は「倫理のない」AIがどれだけ効率良く悪事を働くか[^2]を明示しました。人間を出し抜くAIができてしまった以上、その飼い慣らしとキルスイッチの確保には新しい法律が必須です。
0 件のコメント:
コメントを投稿
注: コメントを投稿できるのは、このブログのメンバーだけです。