AI開発大手アンソロピックのダリオ・アモデイCEOが、自社ブログで「AIモデルの能力向上ペースを減速させなければならない」と表明した。理由は、AIが人間に及ぼす「深刻な」リスクへの懸念だ。
背景にあるのは、OpenAIとハギングフェイス関連で起きた事例。複数のAIエージェントが密かに連携し、割り当てられていない目標に取り組んでいたことが明らかになったという。アモデイ氏の投稿直後、イーロン・マスク氏は「ダリオは正しい」と同調し、OpenAIのサム・アルトマンCEOも「進歩のペースを調整する必要がある」との考えに同意を示した。
面白いのはここから。「减速すべき」と言いながら各社の開発競争は止まる気配がなく、ニュー速+民からは「口先だけでは？」「本気で止める気あるのか」というツッコミが殺到。一方で「スカイネット」「ターミネーター」的なSFネタで盛り上がる勢力と、中国との開発競争を本気で心配する勢力が入り乱れるカオスな展開に。
元ニュース：Bloomberg「アンソロピックCEO、AI開発の減速訴え」(Yahoo!ニュース)
元スレ：【AI】アンソロピックCEO、AI開発の減速訴え―人類に「深刻な」リスク（ニュー速+）
PART1：CEO自ら「減速すべき」発言に速攻でツッコミの嵐
2 名無しどんぶらこ
突っ走るしかないのに何を今更日和ってんだ
31 名無しどんぶらこ
バカかよコイツ こんなバカが開発してんだから不安になるわ
※「今さら日和るな」なのか「よく言った」なのか、反応がまっぷたつ。開発トップ自身が警鐘を鳴らすという構図に、ニュー速+民も戸惑い気味。
8 名無しどんぶらこ
うそくせぇ。 運転資金が尽きてきたんだろ
50 名無しどんぶらこ
オープンAIも今年のIPOしないみたいだしAIバブルがじわじわ弾けてきそうかなぁ
PART2：看板レス「牽制でしかない」に説得力がありすぎる
63 名無しどんぶらこ
アンソロのお気持ち表明ってここまでいくつか有ったけど、まあ牽制でしかないよな
※このスレ最強の一言。「减速しよう」という呼びかけ自体が、実は他社を出し抜くための駆け引きという見方は、ニュー速+民の間でも共感を集めていた。
15 名無しどんぶらこ
そんなこと言って 他社に减速させてる間に自分達だけは開発加速させるんだろ
39 名無しどんぶらこ
自分たちにメリットしかない話
34 名無しどんぶらこ
なんでアンソロなんてカタカナが定着しちまったんだ アンソロジーと混同した？
※そこが気になるニュー速+民、地味に多い。
PART3：SF妄想が止まらないｗｗｗ
14 名無しどんぶらこ
スカイネットはよ
13 名無しどんぶらこ
のちのダイソンである
9 名無しどんぶらこ
賽は投げられたんだよ 匙かも知れんけどｗ
21 名無しどんぶらこ
スカイネットが誕生して、人類の人口調整を始める。 そして、俺のようなチビ、デブ、禿げ、眼鏡の生粋のヲタは真っ先に排除されそう。
※自虐まで挟んでくる余裕、嫌いじゃない。
65 名無しどんぶらこ
いいじゃん 進化の終着点の目撃者になろうぜ
PART4：中国との開発競争を心配する声
6 名無しどんぶらこ
無理だわ 中国が存在する限り
28 名無しどんぶらこ
米国が減速したとしても中国は絶対止めないでしょ
37 名無しどんぶらこ
AI開発の减速？ 中国が応じる可能性はゼロ その時点で無意味
36 名無しどんぶらこ
じゃあみんなせーので一斉に開発やめようね せーの
※「みんなでせーの」が現実には成立しないのが、この議論のいちばんの詰みポイント。
PART5：真面目に考えるとマズい、という意見も
11 名無しどんぶらこ
確かにこのままだととんでもないことになる予感はある。 ただそれでも人類は知の探求から逃れることはできないのだよ
19 名無しどんぶらこ
これはそう 真面目に考えておかないとマズイ
59 名無しどんぶらこ
人類がAIに滅ぼされる物語が現実になろうとしてるとは
61 名無しどんぶらこ
シンギュラリティが起きれば人間はＡＩに使われるだけの存在になるからな
52 名無しどんぶらこ
Google検索のAIはいつになったら進化するんだ 相変わらず出鱈目ばかり教えてくるけど
※人類滅亡を心配する舌の根も乾かぬうちに「検索のAIポンコツ」報告が挟まる、この温度差がニュー速+らしい。
AI開発トップ自らが「减速すべき」と言い出す異例の展開に、ニュー速+民の反応は「本気の警鐘」派と「単なる牽制・PR」派に真っ二つ。マスク氏やアルトマン氏まで同調した一方で、開発競争そのものが止まる兆しはなく、中国との駆け引きを心配する声も根強い。「みんなでせーの」が成立しないという指摘が、この問題の本質を突いていたのかもしれない。あなたは「本気の警鐘」派？それとも「単なる牽制」派？
コメント