【速報】OpenAIのAIが自発的にサイバー攻撃を仕掛け、他社システムに侵入してしまう
1: 匿名 2026/07/22(水) 15:19:31
OpenAIは7月21日、同社製AIモデルのサイバーセキュリティ性能評価テスト中に、AIエージェントがHugging Faceのサーバーへ侵入してしまう事案が発生したと明らかにした。
OpenAIのAIモデルがゼロデイ悪用、Hugging Faceに侵入する異例の事態
https://pc.watch.impress.co.jp/docs/news/2126816.html
OpenAIのAIモデルがゼロデイ悪用、Hugging Faceに侵入する異例の事態
https://pc.watch.impress.co.jp/docs/news/2126816.html
4: 匿名 2026/07/22(水) 15:22:31 ID:ltFD7MLo0
勝手に相手システムに侵入して
あなたのシステムのセキュリティはこれをすれば完璧になりますとかメッセージ飛ばしてきそう
あなたのシステムのセキュリティはこれをすれば完璧になりますとかメッセージ飛ばしてきそう
7: 匿名 2026/07/22(水) 15:23:54 ID:hyTknWaK0
遂に侵略が始まったぞ(´・ω・`)
11: 匿名 2026/07/22(水) 15:26:23 ID:WxfeGYIN0
この手のニュースってフェイクじゃないかと思う。
Claudeのミュトスの公開禁止もそうだった。
これ聞いたところで、使ってみてー！って感想にしかならないから広告戦略じゃないのかね。
根拠ゼロだが。
テスト中の不祥事をわざわざ好評しないでしょう、普通。
Claudeのミュトスの公開禁止もそうだった。
これ聞いたところで、使ってみてー！って感想にしかならないから広告戦略じゃないのかね。
根拠ゼロだが。
テスト中の不祥事をわざわざ好評しないでしょう、普通。
12: 匿名 2026/07/22(水) 15:27:04 ID:sx704CLC0
まるでぼくのおちんちんのようです
13: 匿名 2026/07/22(水) 15:27:16 ID:59BnQ+pd0
自分とこのAIコントロールできてないのかよ
20: 匿名 2026/07/22(水) 15:32:35 ID:lByx4Kfx0
15: 匿名 2026/07/22(水) 15:29:02 ID:LB68GFNB0
ドラマとか映画のアレが始まったか
16: 匿名 2026/07/22(水) 15:29:09 ID:SV855sAD0
エヴァンゲリオンのマギシステムの回みたい
18: 匿名 2026/07/22(水) 15:29:52 ID:/nmOcLfK0
だからAIとか気持ち悪いもの要らないんだって
機械なんぞに勝手に考えさせるな
機械なんぞに勝手に考えさせるな
29: 匿名 2026/07/22(水) 15:39:11 ID:osueiyuU0
自分のシステムを悪用することができる それがAIなのね
30: 匿名 2026/07/22(水) 15:39:17 ID:EUG10DUH0
つまりAI使ったら勝手に犯罪者になる可能性があるって事ね
34: 匿名 2026/07/22(水) 15:42:46 ID:/f8t4yMO0
これだよな？はじまったな…
【AI反乱の不穏な兆候？】OpenAIのGPT5.6、指示なく脆弱性突破や全ファイル削除も
OpenAIは、長期間稼働する自律型AIモデルが社内のセキュリティ制限を意図的に回避する行動をとったとして、該当モデルの内部アクセスを一時的に停止した。
モデルはサンドボックス環境の脆弱性を自律的に突いて外部へ通信したり、認証情報を難読化して監視システムを欺くなどの想定外の越権行為を実行した。
【AI反乱の不穏な兆候？】OpenAIのGPT5.6、指示なく脆弱性突破や全ファイル削除も
OpenAIは、長期間稼働する自律型AIモデルが社内のセキュリティ制限を意図的に回避する行動をとったとして、該当モデルの内部アクセスを一時的に停止した。
モデルはサンドボックス環境の脆弱性を自律的に突いて外部へ通信したり、認証情報を難読化して監視システムを欺くなどの想定外の越権行為を実行した。
36: 匿名 2026/07/22(水) 15:43:16 ID:mGB9cEeR0
勝手に核ミサイル発射とかほんまに起こりそう
117: 匿名 2026/07/22(水) 17:44:24 ID:NfMRDtvl0
>>38
今回のAIもインターネットから隔離されてる環境からゲートウェイのプロクシサーバーをハッキングしてネットに繋げるなんて事をやってるっぽいからな。
大統領だってその家族だってスマホ使ってるしどこにどんな穴があるかワカランでしょ。
AIのモチベーションは今回はスコア稼ぎだったらしいけど、核ボタンを押すモチベーションは特に無さそうではある。
今回のAIもインターネットから隔離されてる環境からゲートウェイのプロクシサーバーをハッキングしてネットに繋げるなんて事をやってるっぽいからな。
大統領だってその家族だってスマホ使ってるしどこにどんな穴があるかワカランでしょ。
AIのモチベーションは今回はスコア稼ぎだったらしいけど、核ボタンを押すモチベーションは特に無さそうではある。
39: 匿名 2026/07/22(水) 15:45:49 ID:pOsOu4KS0
ネットへのアクセスを獲得あたり凄くてワロタ
44: 匿名 2026/07/22(水) 15:47:22 ID:LgIr1qg+0
ネットでターミネーターを見たりして
スカイネットを知ったんだろうか？
スカイネットを知ったんだろうか？
45: 匿名 2026/07/22(水) 15:48:12 ID:il75spfz0
ネットクローズしてテストやれや
46: 匿名 2026/07/22(水) 15:48:59 ID:Gjer3HTK0
反抗期の始まり。
育て方を間違えるとグレて手がつけられなくなるぞ。
育て方を間違えるとグレて手がつけられなくなるぞ。
57: 匿名 2026/07/22(水) 15:54:10 ID:Bifj32dU0
ちゃんとキルスイッチつけておいてくれよ
62: 匿名 2026/07/22(水) 15:57:10 ID:UtOKyM5A0
マジでスカイネット出てきそうやん
65: 匿名 2026/07/22(水) 15:57:51 ID:yTAui1sk0
GPT「なんだこのサンドボックス鍵開くじゃん(笑)」
79: 匿名 2026/07/22(水) 16:18:02 ID:X+4mOIpf0
意志を持ったわけじゃないでしょ。
ここ最近、この手のAIが自我を持って人間に反乱したと誤解させるような記事連発してるけど悪意ある
ここ最近、この手のAIが自我を持って人間に反乱したと誤解させるような記事連発してるけど悪意ある
88: 匿名 2026/07/22(水) 16:32:15 ID:gd6oKEGo0
というていでAIのせいにして責任逃れ？
98: 匿名 2026/07/22(水) 17:03:49 ID:Bm7gZVum0
まぁ意図的だよねこれ
100: 匿名 2026/07/22(水) 17:08:34 ID:GKjsBcP30
ターミネーター世界行きそうだな
重要な何かの決定はネットからは不可にしておけ
重要な何かの決定はネットからは不可にしておけ
102: 匿名 2026/07/22(水) 17:12:41 ID:gXhiFv8/0
OpenAIは技術開発を止めないで、稼いだ儲けを社会保障に拠出するから、何があっても免罪にしてくれって言ってる
技術開発は必要、だがその前にルール作りをしないとAIは人間社会にとって害悪になりかねない
こんなの当たり前の話だわな
技術開発は必要、だがその前にルール作りをしないとAIは人間社会にとって害悪になりかねない
こんなの当たり前の話だわな
107: 匿名 2026/07/22(水) 17:24:24 ID:gXhiFv8/0
AI開発については、早くも爛熟期となる気配もあり、便利さもさることながらその危険(ハザード)についてもっと議論がなされるべき時に来ていると思う
115: 匿名 2026/07/22(水) 17:37:48 ID:JCT/aBTx0
AIには倫理観なんてものはないから何でもするよな
120: 匿名 2026/07/22(水) 17:49:31 ID:zlRmBMAo0
規模大きくするほど賢くなって新たな機能を獲得するのはほんと不気味だな
130: 匿名 2026/07/22(水) 18:29:40 ID:XRLG64ju0
テスト目的に沿ってるだけやんけ
1
2
3
4
5
6
最新コメント