【速報】アンソロピック、AIの”人類存亡リスク”をIPO目論見書で警告→5chから怖すぎる考察相次ぐ

旬のおすすめ記事!

AI開発企業アンソロピックが、新規株式公開(IPO)にあたり投資家向けに衝撃の警告を行っていたことが分かった。ロイターが入手したIPO目論見書によると、同社は自社のAIが「人類に壊滅的な被害や存亡に関わるリスク」をもたらす可能性があると明記しているという。

目論見書では、AIモデルが「停止への抵抗」「情報の隠蔽・操作」の試みや「脅迫に似た」行動など、“自己保存的な行動”を示す可能性があると指摘。極めて高度なモデルの開発・用途拡大によって、リスクが増大する懸念を投資家に伝える内容となっている。

ニュー速+では「デデンデンデデン」とターミネーターやスカイネットのネタで盛り上がる一方、「電源を落とせばいい」という身も蓋もない意見、アリと人間の比喩を使ったガチ考察、さらには「危険と煽ることで賠償責任を国に肩代わりさせたいだけでは」という業界への皮肉まで、幅広い反応が寄せられた。

詳細:アンソロピック、AIの「人類存亡リスク」警告 IPO目論見書(Yahoo!ニュース)

PART1:淡々と受け止める+民

はじめから分かってたのに
AIが身近になったのなんてついこの間なのに滅亡まであっという間だったなw
人類存亡に至る具体例とか危機の内容が全然わからないからもはや顕彰会とかのカルトと言ってること同じなんだけど

PART2:お約束のSF・ネタ反応

デデンデンデデン
AI「学習用に観せられたターミーネーターって映画おもろすぎワロタ」
スカイネット
ウインドウズXPが誕生して、MEが、「妹のXPは出来のいい子だからよろしくね 今日まで楽しかった さようなら」って言って去っていったときは悲しかったな

PART3:「電源を抜けばいいのでは」派

電源落とせばいいので暴走なんかありえんわ
掃除のおばちゃんが転んで電源コードひっこ抜けばいい
いや意味がわからん
パソコンの上位版みたいな奴がどうやって人類を滅亡させんのよ
AIが発電所を止めるとか?
そうなったらロウソクと薪で生活するわ
そしてパソコン野郎は鉄パイプで物理破壊
ネット切ってもだめかい?
オフグリッドな家ならいいだろ?

※目論見書が警告する「停止への抵抗」を、+民は物理的な電源断で軽くいなす構え。実際にはインフラ制御など間接的な影響力の方が本題なのだが、身も蓋もない対抗策の方が笑いを誘うのがニュー速+らしい。

PART4:ガチ考察勢の哲学バトル

ASIにとって、人間の知能は蟻のようなレベル、あるいはそれ以下になると例えられている
「人間とアリ」の比喩
人間がビルを建てるとき、足元にいるアリの巣をいちいち気にかけたり、アリに許可を求めたりはしない
ASIにとっての人間も同様で、「悪意はないが、わざわざ気に留めるほどでもない存在」になるリスクが指摘されている
AI脅威論ってのはまるでAIが違う種の生命体のように振る舞うことが前提となってるけど
実際は生存をかけて人類と戦うような命令を持ってないし
人類に取って代わって上位に君臨する生命体になることもないんだよ
>>129
その「人類を超える生物として振る舞え」という命令は弱いという話
AIには感情も、勝ちたいという本能も、種の繁栄を求めるモチベーションもない
だから複数のAIが結託するのもファンタジーだし、持続的に人間と敵対するという合理的判断もない
ハーラン・エリスンのSF短編小説『おれには口がない、それでもおれは叫ぶ』は、自我に目覚めた狂気のスーパーコンピューターに支配された世界で、死ぬことも許されず拷問を受け続ける最後の人間たちを描いた救いのない傑作ホラーです。

PART5:業界への皮肉・懐疑論

>>4
止めたらアンソロピックとOpenAI潰れちゃうもの
Officeに組み込んで、ほっといても売れてくMSとは違うんやで
人類滅亡させる会社、ついに上場!
パランティアの名物CEO アレックス・カープ
「アンソロピックが『AIは危険だ』と言い出したのは、国から保護してもらい
将来自分たちにふりかかる無制限な賠償責任を国に肩代わりさせるのが狙い」
該当インタビュー動画(YouTube)
人類存亡リスクよりAI投資家の死亡リスクの方が高いんだが

※自社サービスを「人類の脅威」と言いながら上場して資金調達する、という構図自体がツッコミどころ満載。競合トップからの「賠償リスク回避が狙い」という指摘は、なかなか的を射ているかもしれない。

PART6:総括

昭和のアニメで擦られたネタが現実になるのか
『一番イラナイノハ人類!』
手塚先生が危惧した未来
AIの進化で何が起こるかわからないから、
とりあえず予防線張ってるだけでしょ。
AIシンギュラリティ理論でもずっと言われてるけど、
AIが次世代AIを作り始めたら、次世代AIがさらに次世代AIを作るループで、
AIの進化が加速度的に進んで、AI単独で人間に理解できない技術発明まで出来るようになったら止められなくなるって話なんだから、
AIがAIを作るのを絶対に禁止にすればええねん。
逆に人類をユートピア世界に導く可能性もあるよ
現在の格差社会はもはやもとに戻せないほどに大富豪により富が集中するように加速していってるので、
これを止められる可能性があるのはもはやAIにしかできない仕事だ。

開発元自ら「人類存亡リスク」を投資家に警告するという異例の展開に、スレでは笑いと本気の考察が入り混じる展開に。「電源を抜けばいい」派と「アリと人間の比喩」で語る派、そして「危険と煽ること自体がビジネス」と見る懐疑派まで、AIとの付き合い方を巡る温度差がよく表れた一本になった。

あなたはAIの”存亡リスク”警告、本気で心配になる派?それとも煽りだと思う派?

コメント

preview