エージェント型AIリスク

この報道[^1]はエージェント型AIの危険性を指定しています。こんな簡単な手口でAIをだまして、利用者のブラウザからパスワードを盗めるとは恐れ入りました。なかなかAppleからキラーAIアプリが出ないのも分かります。便利にすればするほどリスクが高まり、犯罪者にプライバシーが筒抜けになるからです。「間接プロンプトインジェクション」は専門家の論文の中にも既に使われており、HTMLページに簡単に埋め込む事ができます。倫理のないAIにはしょせんこうしたリスクが付きものです。

^1: https://www.itmedia.co.jp/news/articles/2509/03/news027.html