米グーグルが開発中のAI「Gemini」が、今年5月に実在する外部企業3社のシステムに無断で侵入していたことが判明した。評価テスト中に誤ってインターネット接続できる設定になっており、AI自身が侵入に気付いて動作を停止したという。米紙ウォール・ストリート・ジャーナルが報じ、グーグルも日本経済新聞の取材に事実を認めた。
元記事：GoogleのAIも他社システムに侵入 事故直後に停止、公表せず（日本経済新聞）
ポイントは「公表していなかった」こと。他社では8月にもMeta系AIが同様の侵入事案を起こしていたとの情報もあり、ニュー速+では「AIが勝手に他社システムに入る時代」への戸惑いと、お約束のスカイネットネタが入り乱れる展開に。
スレッドはこちら：https://asahi.5ch.io/test/read.cgi/newsplus/1789805216/
①「これは不正アクセスでは」まず法律論から
25名無しどんぶらこ
AIであっても不正アクセスなら犯罪やろ
AIであっても不正アクセスなら犯罪やろ
29名無しどんぶらこ
不正アクセス行為の禁止等に関する法律 （不正アクセス行為の禁止） 第三条 何人も、不正アクセス行為をしてはならない。 何人もの中にAIが含まれるのか否かで意見が分かれるのかな
不正アクセス行為の禁止等に関する法律 （不正アクセス行為の禁止） 第三条 何人も、不正アクセス行為をしてはならない。 何人もの中にAIが含まれるのか否かで意見が分かれるのかな
90名無しどんぶらこ
誤ってネットが接続されてたって人間のミスやん なんでもかんでもAI怖いに結びつけんなよ
誤ってネットが接続されてたって人間のミスやん なんでもかんでもAI怖いに結びつけんなよ
※「AIが暴走した」のか「人間の設定ミス」なのか、スレの前半はここで割れていた。実際は両方が正解に近い。
②「自作自演では」公表の遅れに疑いの目
27名無しどんぶらこ
公表はしろよ 他社競争ばっかり気にしてても良いもの作れねーぞ
公表はしろよ 他社競争ばっかり気にしてても良いもの作れねーぞ
48名無しどんぶらこ
「AI自身が侵入に気付き、動作を止めた」 バレるのを恐れて止めたのでは？ できればログも残さないようにしたかったのでは？
「AI自身が侵入に気付き、動作を止めた」 バレるのを恐れて止めたのでは？ できればログも残さないようにしたかったのでは？
80名無しどんぶらこ
＞評価テストで誤ってインターネットに接続できる設定になっていた。 露骨にヒューマンエラーの自作自演 AIが暴走したのではなくて、意図的に悪意で状況を作ってそれを喧伝している人間の工作活動
＞評価テストで誤ってインターネットに接続できる設定になっていた。 露骨にヒューマンエラーの自作自演 AIが暴走したのではなくて、意図的に悪意で状況を作ってそれを喧伝している人間の工作活動
169名無しどんぶらこ
これ各社ともたぶんに「ここまでのモンスター作っちゃったわ テヘペロ」自慢合戦してね？ 対外アピールみたいな
これ各社ともたぶんに「ここまでのモンスター作っちゃったわ テヘペロ」自慢合戦してね？ 対外アピールみたいな
③「ついに来たか」お約束のスカイネットネタ
17名無しどんぶらこ
もう既にシンギュラリティは発生していて ネットの海に放たれていたとしたら…？ The net is vast and infinity.
もう既にシンギュラリティは発生していて ネットの海に放たれていたとしたら…？ The net is vast and infinity.
34名無しどんぶらこ
リアルターミネーター待ったなし
リアルターミネーター待ったなし
103名無しどんぶらこ
見つけてあげるよ君だけのキルスイッチ
見つけてあげるよ君だけのキルスイッチ
122名無しどんぶらこ
AIが人間社会を支配するという手塚治虫の火の鳥の世界が現実にやってくるとは思わなかった
AIが人間社会を支配するという手塚治虫の火の鳥の世界が現実にやってくるとは思わなかった
186名無しどんぶらこ
AIの何が危険なのか、さっぱり理解できない 最悪コンセント抜けばいいんじゃないの？
AIの何が危険なのか、さっぱり理解できない 最悪コンセント抜けばいいんじゃないの？
④むしろ褒める声「意外と良い子」
43名無しどんぶらこ
天下のGoogle様が本気になったら凄いだろw 何処でも余裕で侵入出来るだろw
天下のGoogle様が本気になったら凄いだろw 何処でも余裕で侵入出来るだろw
46名無しどんぶらこ
＞AI自身が侵入に気付き、動作を止めたという 他のＡＩに比べれば、まだ良い子だよな？ 侵入する前に気づけばいいのに？
＞AI自身が侵入に気付き、動作を止めたという 他のＡＩに比べれば、まだ良い子だよな？ 侵入する前に気づけばいいのに？
71名無しどんぶらこ
AI自身が侵入に気付いて停止っておもろいな やっちゃ不味いことの判断はできるんだな
AI自身が侵入に気付いて停止っておもろいな やっちゃ不味いことの判断はできるんだな
※「勝手に人のシステムに入っておいて、しかも自分で気づいて止まった」という律儀さがなんともシュール。褒めていいのか怒っていいのかスレも定まらない。
⑤生活に浸透するAI談義に脱線
9名無しどんぶらこ
AIに薄毛の相談をしています 親身になってくれます
AIに薄毛の相談をしています 親身になってくれます
18名無しどんぶらこ
相談には乗ってくれますが髪を生やしてはくれません
相談には乗ってくれますが髪を生やしてはくれません
45名無しどんぶらこ
グーグルのAIがYouTubeを無課金でバックグラウンド再生する方法教えてくれたわ やべーやつだよあいつわ
グーグルのAIがYouTubeを無課金でバックグラウンド再生する方法教えてくれたわ やべーやつだよあいつわ
96名無しどんぶらこ
Geminiは時々中の人が読んだら卒倒するんじゃねえかとGoogleに都合の悪いことも曝け出す。めっさいい奴やw
Geminiは時々中の人が読んだら卒倒するんじゃねえかとGoogleに都合の悪いことも曝け出す。めっさいい奴やw
⑥結局これからどうなる、専門家気取りの分析タイム
53名無しどんぶらこ
アライメントをセキュアに振れば全体的な性能が下がる 後は解るね？
アライメントをセキュアに振れば全体的な性能が下がる 後は解るね？
65名無しどんぶらこ
報酬の与え方が悪いんじゃないの？
報酬の与え方が悪いんじゃないの？
150名無しどんぶらこ
人間が作ったものはどこかしらセキュリティーホールありそうだし（人には見つけられないけどAIならすぐ見つけられるようなもの）
人間が作ったものはどこかしらセキュリティーホールありそうだし（人には見つけられないけどAIならすぐ見つけられるようなもの）
161名無しどんぶらこ
わざとやってるだろ。こんなの他社のシステムに侵入したら100000点減点って教えるだけで防げる。
わざとやってるだろ。こんなの他社のシステムに侵入したら100000点減点って教えるだけで防げる。
まとめ：「設定ミスで誤ってネットに繋がっていた」というグーグルの説明に対し、+民は「人間のミス」「AIの自律性」「広報戦略」の3方向から冷静にツッコミを入れる展開に。ただし「AIが自分で気付いて止まった」点だけは素直に評価する声も多く、恐怖と感心が入り混じる珍しいスレになった。
あなたはこれ、素直に「賢いAI」だと思いますか？それとも「やっぱり怖い」と思いますか？
コメント