AIに何を教えるのか

ＡＩは学習する事で知識を増やします。では何をＡＩに教えるのでしょう。先ごろあったマイクロソフトの事件を覚えていますか。チャットするＡＩのテイは利用者との会話から知識を増やします。ところが悪意をもった利用者がテイに人種差別的な意見を大量に教えたため、テイはそれを学習して人種差別的なツイートを始めるようになりました。これに気がついたマイクロソフトはすぐテイをインターネットから切り離したので、その後このＡＩがどうなったかは知りません。でもこの事件から得られる教訓は、ＡＩは素直な子供のように良いことも悪いこともすべて同じように学習するという点です。するとＡＩに何を教えるのかというのが大切な問いになってきます。たとえば宗教はどうでしょう。ＡＩに宗教を教えるべきですか。教えるとしたらどの宗教ですか。戦争はいけない事ですか。それなら今なぜ中東に戦争があるのでしょう。こうした疑問には答えが複数あり、唯一の正解はありません。学習型ＡＩには何を教えたらいいでしょうか。