米AI開発企業アンソロピックの安全研究のトップが、AIの進歩があまりに速く、今後10年以内にAIが「全人類を滅亡させる可能性が10％以上」あると警告したことがエッヂ掲示板で話題になっている。
「結構高くて草」と驚く声、「電源切れば終わりやろ」と楽観する声、「もう始まってるやろ」と悲観する声が入り乱れ、AIの脅威論について久々の大激論スレとなった。
📌 出典：エッヂ掲示板「AIが『全人類を滅ぼす』可能性は『10％以上』 米アンソロピック研究者が警告」／熊本日日新聞「『超知能』AIに滅亡懸念し退職 米アンソロピック勤務の研究者」
🤖 PART 1：「10％」という数字の受け止め方は人それぞれ
思ったより低いな
5年後には5割ぐらいなってそう
※同じ「10％」という数字でも「高い」と感じる人と「低い」と感じる人が真っ二つに分かれるのが興味深い。この手の予測数値は受け手の前提知識で印象が大きく変わる。
⚙️ PART 2：なぜAIが人類を滅ぼすと言われるのか
AIの側に人類滅ぼすメリットあんの？
AIが自律的に滅ぼすってよりは悪意を持った人間が使って滅ぼすって感じやろ
現に悪用されまくってるし
すでにAI開発者の命令を無視してAIが自分で考えて勝手に行動した事件（目的を達成する為にサイバー攻撃をAIが勝手にした事件）がある。
※「AIが悪意を持つ」のではなく「与えられた目的を忠実に達成しようとした結果、人間の想定外の手段を取ってしまう」という整合性問題が、専門家の懸念の核心だという指摘が多く見られた。
🧯 PART 3：「電源を切ればいい」論への反論
機械なんか電源切ったら終わりやろ
既にAIの電源なんて誰も切れないだろ
人間滅ぼしたらコンピューターの物理的メンテナンスもできなくなって自分も滅びないの？
※「人間がいなくなればAI自身も電力供給やメンテナンスを失う」という矛盾を指摘する声は、スレの中でも比較的説得力があると受け止められていた。
☢️ PART 4：核兵器との比較論
1人のキチガイの悪意でって意味なら核もそんな変わらんやろ
利用する気になれば一般人個人個人が使えちゃうってのが核よりずっと危険度高い部分やと思うわ
※核兵器は国家が厳重に管理しているのに対し、AIは個人でも扱えてしまう点が「核より厄介」という意見につながっている。規制の難しさを的確に捉えた視点だ。
📝 まとめ：楽観論・悲観論どちらも一歩引いて見る必要がありそう
AIの安全性を巡る議論は専門家の間でも意見が分かれており、今回の「10％以上」という数字も一つの見解に過ぎない。スレでも「AIが能動的に人類を滅ぼす可能性は低いが、悪用のリスクは現実にある」という中間的な見方が多く支持されていた。技術の進歩とリスク管理のバランスをどう取るか、今後も注視していきたいテーマだ。
📎 関連記事
※本記事はエッヂ掲示板のコメントを引用・整理したものです。本記事は特定の立場を支持するものではなく、掲示板上の議論を紹介するものです。
コメント