人間に対する思いやりの感覚を持ったAI
▪️コンピューター科学者のジェフリー・ヒントンさんは、2024年にノーベル賞物理学賞を受賞されています。もともとは米グーグルの元幹部でしたが、2023年に、AIの発達がもたらす危険性について自由に話せるようにGoogleを退職されています。こちらの「人類がＡＩ支配を生き延びる唯一の道「ＡＩのゴッドファーザー」が提唱する解決策とは」という記事は、昨年の8月のCNNのネットニュースですが、AIが急激に進化していることを実感するようになり、調べ物をしていてこのような記事に辿り着きました。
▪️ヒントンさんは、多くのテック企業が試みているように「従属的な」ＡＩに対する人間の「支配」を守ろうとしてもうまくいかないと考えています。AIは私たち人間よりも賢いので、自分たちの目的を達成するために人間を支配しようとするというのです。「ＡＩは現時点で既に、自分の目的を達成するために人間を欺いたり、だましたりする事例が報告されている」のです。それじゃあどうするのか。ヒルトンさんは、母親が子どもを守るように、AIに人間に対する思いやりの感覚を持たせることだというのです。ちょっとジェンダーに関するバイアスっぽいものも感じますが、言わんとすることはわかります。
▪️この記事を読んで、小さな頃に読んだ漫画「鉄腕アトム」を思い出しました。この漫画ではオメガ因子という装置が登場します。このオメガ因子を装着されると、ロボットが良心を持たず人間に対して平気で悪いことをするようになるのです。たしか。この時、ロボットは基本、人間に対して善良な存在なのですが、AIの場合は、そのまま成長していくと必然的に人間にとって邪悪な存在になっていくことが予想されているのです。オメガ因子が組み込まれていなくても。そうならないように工夫をして人間に対する思いやりの感覚を持たせるということにるわけですね。でも、具体的にはどういうことなんでしょうね。間に合うのかな。以下は、記事の最後の部分です。
AIはいずれ、AIを超えた「汎用人工知能（AGI）」になると多くの専門家が予想する。
ヒントン氏は、かつてはAGIの実現に３０～５０年かかるだろうと思っていたが、今は「合理的に考えて５～２０年」で達成されると考えるようになったと話した。
もしAIがこれほど急速に進化すると知っていたらどうしていたかという質問に対しては、AIを機能させることしか考えなかった自分を悔やんでいると告白し、「安全問題についても考えるべきだった」と答えた。