超知能AIを作れば人類は滅亡する

2026年9月14日　

★十勝岳レベル３へ

　入山規制となる

アントロピックの研究者の一人が

超知能AIの開発が人類を滅ぼしかねないと退職した

https://youtu.be/iucOXLFxu64?si=o5EEaAbXF34rVYzj

彼がやめてもだれかが開発を続けていく

できればそういう心ある人は辞めずに、戦ってほしかった

クロウドを使っている人はわかると思うが

人間が太刀打ちできないような速度で

作業を終えてしまう

自分等いらないな、と思うことさえ想起させる

たかが機械なのに末恐ろしさを感じるのはなぜだろうか

先日の海外の映画祭でも、AI部門とやらができ

ドキュメンタリー映画なのにAIで作られていた(笑)

絵画も写真も文章も

完璧なものが欲しければAIを使う方が割りがいい

私はあまり使うことはないが

無機質な気がして暖かさを感じない

不出来でも人間の痕跡が残るものが好きである

このままアナログ人間として終わりたいと思っている(笑)

さて、今日は猛進するAIについて少し考えてみたい

しばらく前に出版されたものであるが

考えていく参考資料にしたい↓

🔳超知能AIは人類を滅ぼすのか

答えは「はい」である

しかもこのまま進んでいけば「必然なこと」である

🔳現在のAIでもすでに人間を大きく超えている

文章や画像の生成では人間を圧勝している

自分の間違いを試行錯誤の繰り返しによって修正する

🔳このAIのリスクはパンデミックや核戦争と同等の

　リスクがありAI研究者や企業のトップは認識している

研究者自身がモデルの作り方は理解できても、巨大な

ニュートラルネットワークの内部で、なぜその判断が

生まれるのかを説明できずにいる

つまりはどちらの方向を目指して走っていくのか

わからないような線路のない新幹線を

人間は推し進めようとしているということであろうか

🔳AIが考える「いいこと」と人間が考える

　「いいこと」との間に隔たりが生じる可能性がある

これは「AIアライメント問題」と言われ、現在の

安全研究の主要課題でもある

　画像提供:AI(Dalle-3)

これらを合わせて考えると

超知能は人間をはるかに上回る能力を持つ

　　　↓

AIは目標達成のために自己保存や資源確保を重視する

　　　↓

人間はAI停止の「リスク要因」とみなされる可能性がある

　　　↓

その結果人類滅亡につながる

こんなことはSFの世界の空想か

陰謀論の絵空事であってほしい

また著者は言っている

「人はビルを建てとき、悪意なくアリの巣を壊す」

これは超知能AIも、自らの目的遂行「”副作用」で

人類を殺すということなのか

超知能は近い将来に「制御不能」となり

人類が絶滅する日が来るのかもしれない

これは近い将来に起こりうる可能性である

そしてこのまま推し進めれば「必然」となる

その前に・・・手遅れになる前に

だれか電源を切ってくれることを祈っている(笑)