知能と意識

先日NHKの番組で大規模言語モデルを取り上げ、タモリが中心となって最新のAI技術を紹介していました。そこで「知能とは予想すること」という説明があり、次に来る単語を予想するだけで知能を実現できるという解説がありました。筆者は「知能とは世界を脳の中にモデル化すること」と思っており、モデルがあればそれを使って予想ができるので、「生存確率を上げるために予想する」という生命の目的にはどちらも沿っていると思います。ただし言語ベースの知能は表層的であり、そのため幻覚が起きるものと考えます。人間は考えた結果を言語化して人に伝える必要があり、そのレベルだけ見れば「次に来る単語を予想する」のが知能というのも分かります。ただし、イヌや猫にも知能はあり、人間の赤ん坊にも知能はあります。つまり言語を知らなくても知能は存在します。なので大規模言語モデルはあくまでも脳のシミュレーションであって、一次近似だと思います。こうしたAIが発達して万能AIになると意識が生まれるという意見があり、すると何が意識なのかという定義が必要になります。筆者は「自由意思が意識」だと思うので、AIが人間の言う事を聞かなくなったら意識があると認めます。ただし、そのようなAIは危険なので、暴走を止めるキルスイッチだけは用意しておいて下さい。