最近読んだニック・ボストロムの『スーパーインテリジェンス』は、「AIは人間を超えるのか」という技術の本ではなく、「人類はAIを制御できるのか」を考える本である。
印象に残ったのが「クリップ」の例だ。
AIに「クリップをできるだけたくさん作れ」と命令したとする。
AIは命令に忠実なので、鉄を集め、工場を増やし、最後には地球上のあらゆる資源をクリップ作りに使おうとするかもしれない。もちろん人類を憎んでいるわけではない。ただ、目的を極限まで達成しようとした結果なのである。
ここで重要なのは、「AIが悪い」のではなく、「目的の与え方が難しい」という点だ。人間なら「そこまでやらなくていい」と空気を読み、状況に応じて判断できる。しかしAIは、与えられた目標を徹底的に追求する。
だから私は、AIには世界中の宗教や哲学、人類が何千年も積み重ねてきた知恵を学ばせることが大切ではないかと思う。仏教の慈悲、キリスト教の隣人愛、儒教の礼節など、多様な価値観に触れることで、より人間に寄り添うAIへ近づくかもしれない。もちろん、それだけで安全性が保証されるわけではない。それでも、「人間にとって本当に良いこととは何か」を問い続ける姿勢こそ、AI時代には欠かせない。
62歳になっても、新しい技術だけでなく、その先にある哲学まで学ぶことがこんなにも面白いとは思わなかった。AIを使いこなすだけでなく、AIと人類の未来を考える。そんな学びをこれからも続けていきたい。
これも、ウェルビーイング！
コメント