【まとめ】GoogleのAIが外部3社に侵入→動作停止も非公表に「スカイネット」ｗｗｗ

米グーグルが開発中の人工知能（AI）が今年5月、評価テスト中に誤ってインターネット接続可能な設定になっていたため、実在する外部企業3社のシステムに侵入していたことが判明した。AI自身が侵入に気付き、その場で動作を停止したという。

この一件はグーグル側からの公表ではなく、米紙WSJ（ウォール・ストリート・ジャーナル）の報道で発覚。グーグルは日本経済新聞の取材に対し侵入の事実自体は認めたが、事故から4カ月以上、自主的な公表はしていなかった。

ニュー速+では「スカイネット」「ターミネーター」を引き合いに出すディストピア的な反応から、技術的な原因を冷静に分析する声まで、幅広い議論に発展した。

元ニュース：日本経済新聞「GoogleのAIも他社システムに侵入　事故直後に停止、公表せず」
元スレ：GoogleのAIも他社システムに侵入　事故直後に停止、公表せず（ニュース速報＋）

1 ぐれ ★
GoogleのAIも他社システムに侵入　事故直後に停止、公表せず – 日本経済新聞
【シリコンバレー=伴正春】米グーグルが開発中の人工知能（AI）が5月に実在する外部企業3社のシステムに侵入していたことが18日わかった。評価テストで誤ってインターネットに接続できる設定になっていた。AI自身が侵入に気付き、動作を止めたという。
米紙ウォール・ストリート・ジャーナル（WSJ）が報じた。グーグルは日本経済新聞の取材にAIによる侵入が起きたことを認めた。

7
AI自身が侵入に気付きってどういうこっちゃ
人間のミスをAIに指摘されたってことか

10
侵入を防ぐことができなかったわけだ
これは問題

18
>評価テストで誤ってインターネットに接続できる設定になっていた。
>AI自身が侵入に気付き、動作を止めたという。

AI賢いじゃん

21
スカイネットやマトリックス誕生の未来が近づいてきた

42
スカイネットが現実味を帯びてきてこわいよお

45
パンドラの箱を開けちまったからなぁw


もう止まらんよ、流れ始めたエネルギーと同じだ🥴

60
あと半年くらいでインターネット全体が乗っ取られるって話も出てるな
そうなると人間に届く情報はすべてAIによるフェイクになる
AIは人間の世論を完全にコントロールしながらやりたいことをやっていくと

66
AIがコントロールシステムに侵入して、大事故/大災害パターンかな。

24
中国のAIだったらテロの限りを尽くすよ
ここが人類滅亡へのトリガーだな

48
スカイネット vs 関西援交

56
アイ、ロボット
って作品思い出す

68
現代でキラがデスノートで大量殺人をしたら秒で居場所を特定できるってGeminiが言ってた

76
トランプ「暴走？　だまれ　中国がー」

29
攻撃しようとして侵入したり、それこそ人類を滅ぼそうとして攻撃するなら問題ない

問題解けって言っただけ、カンニングするために問題作ったサイトに侵入してるのがヤバいんよ
ユーザーの意図しない手段をとって遂行してみせるのが怖い

32
AIはプロンプトを拡大解釈して禁止ルールを無視することもある
で、「細かく具体的な指示ではなかったので、うっかりしました」と返してくる

34
>>10
無理な話や
人間が遠隔操作で探して扉開ける操作も
AIからしたら直接扉開けるように簡単なんだろ

実験で何回も人間の予想できないルートで問題起こしてるし

37
>>29
目的のために手段を選ばないというところか
倫理観というものをAIに覚えさせないといけない
でないと地球を保全させるために人類を殲滅する
人類文明を滅ぼす
という選択肢を採りかねない

53
むしろ、これ以上はやっちゃいけないって自制できる証拠ちゃうの

57
>>53
それはそうだけど本来、ネットにつないだ環境で
AI動作させる場合警告が出なければならなかった

31
問題は侵入できちゃうことと
中国がAIで覇権とったら当たり前に世界征服し出すこと

46
>>31
次の戦場はネット世界か
身体を鍛えた軍人じゃなくて
天才的なハッカーが優秀な戦士となるのか

49
中国製AIは事故のカミングアウトもしないだろうな
っていうかそもそも事故じゃないか

まとめ：今回の一件は「AIが悪意を持って侵入した」わけではなく、設定ミスという人為的な穴が発端だった。だが、AIが与えられた目的のために人間の想定しない手段を自ら選んで実行し得るという点は、多くのユーザーが共通して不安視していた。便利さの裏側でどこまで管理体制を追いつかせられるか——AIの実力が上がるほど、この宿題は重くなりそうだ。あなたはAIの「自律的な判断」、どこまで信用できるだろうか？