誰かが「バルス」と叫ぶ確率とAIによる人類滅亡論

危険なことをする人間が必ずしも悪意を持っている必要はありません。

「これをAIにやらせたらどうなる？」

「倫理的な制限を外したらどうなる？」

「100体つないだら？」

「自己改変させたら？」

「ネットにつないで放っておいたら？」

これは全部、極めて人間らしい好奇心です。

科学者だけではなくすべての人間がもっている衝動です。

が、純粋な好奇心であったとしても「さすがにそれは、、、」という行為です。

人数が少ない間はまだ安全です。

しかし人間が100人なら誰も試さないことでも、

世界中に数億人のAIユーザーがいれば、誰かが試します。

数式で書くとわかりやすいでしょう。

P(誰かが試す)が、誰かが試す確率。

pが個人あたりの確率です。

Nは人数。

P(誰かが試す)=1−(1−p)N

pが極端に小さい場合でも、

Nが巨大になれば、

P(誰かが試す)は、ほぼ１になります。Nは乗数だからです。

滅びの呪文を世界中の人が知ったとしましょう。

それを唱えると地球が崩壊します。

さて地球は崩壊から免れる手段はあるでしょうか？

ハエのコネクトームの例は象徴的です。科学者が慎重に解析していた対象が、データやツールが公開されることで一般の人にも「触れるもの」「遊べるもの」になる。これは素晴らしいことです。思いもよらない発見が生まれる可能性があります。しかし同時に、科学技術が

専門家が管理する対象 → 誰でも試せる玩具

へ変化する瞬間でもあります。

AIは、この変化が桁違いに速いのです。

人類を発展に導いた好奇心。それはときには牙をむく可能性があるのです。

重ねますが、好奇心に善も悪もありません。