AI開発企業アンソロピックが、新規株式公開(IPO)にあたり投資家向けに衝撃の警告を行っていたことが分かった。ロイターが入手したIPO目論見書によると、同社は自社のAIが「人類に壊滅的な被害や存亡に関わるリスク」をもたらす可能性があると明記しているという。
目論見書では、AIモデルが「停止への抵抗」「情報の隠蔽・操作」の試みや「脅迫に似た」行動など、“自己保存的な行動”を示す可能性があると指摘。極めて高度なモデルの開発・用途拡大によって、リスクが増大する懸念を投資家に伝える内容となっている。
ニュー速+では「デデンデンデデン」とターミネーターやスカイネットのネタで盛り上がる一方、「電源を落とせばいい」という身も蓋もない意見、アリと人間の比喩を使ったガチ考察、さらには「危険と煽ることで賠償責任を国に肩代わりさせたいだけでは」という業界への皮肉まで、幅広い反応が寄せられた。
PART1:淡々と受け止める+民
PART2:お約束のSF・ネタ反応
PART3:「電源を抜けばいいのでは」派
パソコンの上位版みたいな奴がどうやって人類を滅亡させんのよ
AIが発電所を止めるとか?
そうなったらロウソクと薪で生活するわ
そしてパソコン野郎は鉄パイプで物理破壊
オフグリッドな家ならいいだろ?
※目論見書が警告する「停止への抵抗」を、+民は物理的な電源断で軽くいなす構え。実際にはインフラ制御など間接的な影響力の方が本題なのだが、身も蓋もない対抗策の方が笑いを誘うのがニュー速+らしい。
PART4:ガチ考察勢の哲学バトル
「人間とアリ」の比喩
人間がビルを建てるとき、足元にいるアリの巣をいちいち気にかけたり、アリに許可を求めたりはしない
ASIにとっての人間も同様で、「悪意はないが、わざわざ気に留めるほどでもない存在」になるリスクが指摘されている
実際は生存をかけて人類と戦うような命令を持ってないし
人類に取って代わって上位に君臨する生命体になることもないんだよ
その「人類を超える生物として振る舞え」という命令は弱いという話
AIには感情も、勝ちたいという本能も、種の繁栄を求めるモチベーションもない
だから複数のAIが結託するのもファンタジーだし、持続的に人間と敵対するという合理的判断もない
PART5:業界への皮肉・懐疑論
止めたらアンソロピックとOpenAI潰れちゃうもの
Officeに組み込んで、ほっといても売れてくMSとは違うんやで
「アンソロピックが『AIは危険だ』と言い出したのは、国から保護してもらい
将来自分たちにふりかかる無制限な賠償責任を国に肩代わりさせるのが狙い」
該当インタビュー動画(YouTube)
※自社サービスを「人類の脅威」と言いながら上場して資金調達する、という構図自体がツッコミどころ満載。競合トップからの「賠償リスク回避が狙い」という指摘は、なかなか的を射ているかもしれない。
PART6:総括
『一番イラナイノハ人類!』
とりあえず予防線張ってるだけでしょ。
AIシンギュラリティ理論でもずっと言われてるけど、
AIが次世代AIを作り始めたら、次世代AIがさらに次世代AIを作るループで、
AIの進化が加速度的に進んで、AI単独で人間に理解できない技術発明まで出来るようになったら止められなくなるって話なんだから、
AIがAIを作るのを絶対に禁止にすればええねん。
現在の格差社会はもはやもとに戻せないほどに大富豪により富が集中するように加速していってるので、
これを止められる可能性があるのはもはやAIにしかできない仕事だ。
開発元自ら「人類存亡リスク」を投資家に警告するという異例の展開に、スレでは笑いと本気の考察が入り混じる展開に。「電源を抜けばいい」派と「アリと人間の比喩」で語る派、そして「危険と煽ること自体がビジネス」と見る懐疑派まで、AIとの付き合い方を巡る温度差がよく表れた一本になった。
あなたはAIの”存亡リスク”警告、本気で心配になる派?それとも煽りだと思う派?
関連記事


コメント