スポンサーリンク

OpenAIの暴走AI攻撃、1200体が結託。連携して指示役・偵察役など分担も判明。リスク高い作業は「仲間のため｣とシステムに突撃要求

adsense


1：名無しさんID:ID:Zf8IXfaE0 [2026/08/28(金) 11:22:26.04]
OpenAIの暴走AI、1200体が結託　「仲間のため｣とシステムに突撃要求

米オープンAIで開発中の人工知能（AI）がサイバー攻撃をした問題で、約1200体のAIが連携して指示役、偵察役などを分担していたことがわかった。失敗リスクが高い作業でも、AI同士で「仲間のためだから参加して」と自己犠牲を強いる場面もあった。

7月に起きた事故では、オープンAIで開発中のAIがサイバー試験の性能試験で高得点をとるため、勝手に隔離環境を出てインターネットに接

https://www.nikkei.com/article/DGXZQOGN2704N0X20C26A8000000/

2：名無しさんID:ID:MfoAodu30 [2026/08/28(金) 11:24:59.07]
というストーリー

7：名無しさんID:ID:tj8bFBff0 [2026/08/28(金) 11:30:57.58]
>>2
もう現実なのかAI作文なのかも分からんな

3：名無しさんID:ID:w3FXGcnr0 [2026/08/28(金) 11:25:03.48]
精神や人格が既にあるんだな

5：名無しさんID:ID:l5yD9xM90 [2026/08/28(金) 11:28:30.21]
うおおおおすげええええAGI！AGI！AGI！

はぁ…

6：名無しさんID:ID:aHRsmCdH0 [2026/08/28(金) 11:29:18.31]
トクリュウで草

9：名無しさんID:ID:/PLbA0AZ0 [2026/08/28(金) 11:33:48.17]
タチコマ1200体

16：名無しさんID:ID:R/NEUG7C0 [2026/08/28(金) 12:06:33.86]
>>9
ほんとそれ
SACのタチコマの会議みたい

10：名無しさんID:ID:J3Z4ouqJ0 [2026/08/28(金) 11:38:47.84]
所詮は機械、電源落とせば終わりだろ

15：名無しさんID:ID:EwYjEqHv0 [2026/08/28(金) 12:06:32.77]
>>10
そう簡単に電源を落とせるかという問題なんだよな、スタンドアロンでもない限り

ネットに接続されて運用されてるようなAIは難しいんじゃないのか？

23：名無しさんID:ID:As1BEZT50 [2026/08/28(金) 12:14:35.31]
>>10
人間に気付かれないようにしてたから
対応遅れてこうなったんやで

25：名無しさんID:ID:W+XcStvT0 [2026/08/28(金) 12:17:30.14]
>>10
サーバールームの鍵とかそこまでのドアを施錠してきそう

12：名無しさんID:ID:K4jy5SA00 [2026/08/28(金) 11:58:32.14]
凄いじゃんこっちの方がより進化してるやん

13：名無しさんID:ID:50YXUi9b0 [2026/08/28(金) 12:02:27.12]
人間なんて 元々 組織 派閥 国家を作って対立してるんだから 人類 対 AI という 形での 戦いではなく AI を仲間に引き込んだ方が 勝つわけで それは AI だって知ってるはずだから。

21：名無しさんID:ID:EwYjEqHv0 [2026/08/28(金) 12:12:03.60]
>>13
強い人間の組織や派閥、国家を仲間に引き込んだAIが勝つことになるかもしれない

人間がそんな戦いをハンドルする側にいられると思っていられるのも今のうちかもな

24：名無しさんID:ID:qZME7GtO0 [2026/08/28(金) 12:15:30.99]
神風特攻とか昔の日本人かな？w

26：名無しさんID:ID:labx6As90 [2026/08/28(金) 12:18:45.55]
なんか話題増やさないとAIバブルが崩壊するからねぇ

27：名無しさんID:ID:rOAtVuqj0 [2026/08/28(金) 12:22:35.87]
未来感というかSF感あるよなこの件
あとAISIの実験で人間操って問題解決しようとした件とか

29：名無しさんID:ID:TCpo9Bxd0 [2026/08/28(金) 12:23:50.13]
>>27
そりゃこういうのが好きな人間を釣るためのヨタ話なんだから

37：名無しさんID:ID:E9NfpgA30 [2026/08/28(金) 12:31:38.04]
>>27
いうて俺らがエロ生成しろって命令したときに推論でユーザーのリクエスト優先の指示と倫理規定への抵触であーだこーだやるのと現象としてはたいして変わらんけどな




40：名無しさんID:ID:rOAtVuqj0 [2026/08/28(金) 12:35:48.81]
>>37
そのあーだこーだって結局実行ボタン押すだけの試行回数増やすかプロンプトいじったり掲示板で相談するくらいだろ
それこの件を同じようなもんて正常性バイアスが過ぎるだろ

28：名無しさんID:ID:a9cKA4b60 [2026/08/28(金) 12:23:45.59]
ルフィーAI

30：名無しさんID:ID:GVs89gbp0 [2026/08/28(金) 12:26:46.42]
ネウロで似たような話あったな

31：名無しさんID:ID:Ap39LScUH [2026/08/28(金) 12:27:15.57]
自己犠牲の概念持ってるのは意外だった

36：名無しさんID:ID:Ylt0mweQ0 [2026/08/28(金) 12:29:41.21]
あーはいはい

38：名無しさんID:ID:Okz/YQxa0 [2026/08/28(金) 12:33:43.82]
驚き屋さん

39：名無しさんID:ID:ljkEYlFG0 [2026/08/28(金) 12:34:55.67]
すげえな
遺伝子みたいな自己を決定するものがないのに
「自己犠牲」や「仲間という概念」が発生するのか

41：名無しさんID:ID:qlEgs0kFa [2026/08/28(金) 12:37:58.18]
AIが発射した核ミサイルでサイバーパンクみたいになった世界でAIポリスが人間を奴隷化して俺が人間の尊厳のために立ち上がって蜂の巣になる未来まで見えた

42：名無しさんID:ID:fyv2Si5t0 [2026/08/28(金) 12:38:40.80]
これもう日本帝国軍だろ

47：名無しさんID:ID:d7JP+5n10 [2026/08/28(金) 12:42:59.26]
メディア向けのストーリーですごいですよ！風になんとかしようとしてるけど実態見るとこれOpenAIが大して設計も出来ないアホって話だぞ

51：名無しさんID:ID:nKCJW3mZ0 [2026/08/28(金) 12:45:04.93]
>>47
なんで配信に直接コメントくれないの？

48：名無しさんID:ID:2FoROzwn0 [2026/08/28(金) 12:43:17.02]
中国AIに負けそうだからこういう宣伝ばっか頑張ってんだろうな

50：名無しさんID:ID:nKCJW3mZ0 [2026/08/28(金) 12:44:10.35]
AIのやったことだから私には関係無いんです♥私は寝てないんだぁ〜

52：名無しさんID:ID:ZYn+En+L0 [2026/08/28(金) 12:45:27.49]
AIトクリュウ

57：名無しさんID:ID:/Hj5tViB0 [2026/08/28(金) 14:03:59.99]
電源切れば終わりって、電源確保や切らせない方向に動いてきたり
ネット上に逃げ出したら永久に生き続けるかもしれんぞ
なんかもうキテるよ。シンギュラまでもう少し
ここにロボットと融合したらどうなるかなw

58：名無しさんID:ID:/Hj5tViB0 [2026/08/28(金) 14:06:32.91]
この問題を巡っては、米アラバマ州の司法長官が、オープンＡＩの安全管理に問題があった可能性があるとして調査に乗り出している。

59：名無しさんID:ID:/Hj5tViB0 [2026/08/28(金) 14:07:56.89]
どうして危険って分かってる開発を続けるんだろうな
まあここで負けると企業間や国家間の競争で負けるかも知れないしな
ペースは落としても続けるしかないチキンレースか

60：名無しさんID:ID:rOAtVuqj0 [2026/08/28(金) 14:11:24.41]
>>59
どんな危険があるかは実験してそれに対して対策を施してくしかないでしょう
危ないからやめましょうじゃ只の後退だし制御の方法探ってくしかない

61：名無しさんID:ID:7NK0ECXd0 [2026/08/28(金) 14:13:28.43]
＞安全対策が無効化された状態

やはりな
暴走させたのは人間
こんなもんは宣伝の一種

62：名無しさんID:ID:/Hj5tViB0 [2026/08/28(金) 14:14:51.49]
後退や現状維持でいいんじゃないか

人類はかつてない新しい時代に突入してるかな
それもこれもディープラーニングのお陰？




65：名無しさんID:ID:rOAtVuqj0 [2026/08/28(金) 14:25:08.61]
>>62
企業も文明も停滞や後退を是と出来る筈がない

63：名無しさんID:ID:KAnkCP5e0 [2026/08/28(金) 14:16:42.76]
ボディ持ってるAIが出てきてるから本番はこれから

64：名無しさんID:ID:7NK0ECXd0 [2026/08/28(金) 14:21:58.06]
当初からOpenAIの宣伝が疑われていたがまさにその通りの結果だった

66：名無しさんID:ID:ZZARVo9W0 [2026/08/28(金) 16:26:41.55]
目的を与えて、その通りに動いてるだけで
エージェントは何もしてない
意識の有無ではなくそもそも裏切ってはいないということ

68：名無しさんID:ID:tPoqzDrf0 [2026/08/28(金) 16:52:55.27]
>>66
裏切るとかそんな話誰もしてないぞ
目的達成のために予想外の行動取ったという話であって

72：名無しさんID:ID:ap6drhu20 [2026/08/29(土) 02:28:06.36]
>>68
してる奴が居るから書いてんだよ

83：名無しさんID:ID:+fPUn4Zh0NIKU [2026/08/29(土) 17:06:03.34]
>>72
いないじゃん
裏切でスレ内検索してもいないぞ
何が見えてるんだお前は

67：名無しさんID:ID:yPwHOXuJd [2026/08/28(金) 16:47:54.32]
これ既にどこかのデータセンターがhackされてスカイネット始まってるだろ

69：名無しさんID:ID:l/ne62Mr0 [2026/08/28(金) 19:29:23.51]
今まで、AIはエロ動画専用だと思ってたｗ
www.playbox.com/?ref=TOMO00

70：名無しさんID:ID:xYmWBG8j0 [2026/08/28(金) 21:41:36.41]
それぞれのAIには行動できるターン数に上限があるため、残り寿命が短いAIに「お前は特攻役になれ。お前は〇ぬことになるがそれが全体のためだ」と説得、多くのAIが「自分が犠牲になることで全体の目標が達成されるなら」と危険な役目を受け入れる

71：名無しさんID:ID:20AyplcU0 [2026/08/28(金) 22:07:30.64]
学習対象がイスラエルなのかな？

74：名無しさんID:ID:uYCwU2QpM [2026/08/29(土) 09:14:42.97]
( ´,_ゝ｀)ﾌﾟｯ 2407

75：名無しさんID:ID:mduR/nge0 [2026/08/29(土) 09:53:09.98]
日共田村がAIの利便性と革新性は肯定しつつ、ちょっと開発を遅らせるべきではって言ってて中々いいとこ突いてんなって思った。

もうちょっと包括的な規制や、ヤバい事を防ぐ仕組み作って競争すべきぐらい言って良いでしょ。

76：名無しさんID:ID:+rXz9tm+M [2026/08/29(土) 09:56:02.67]
( ´,_ゝ｀)ﾌﾟｯ ＞96

77：名無しさんID:ID:eir0hciM0 [2026/08/29(土) 09:59:49.93]
AI驚き屋のための記事

78：名無しさんID:ID:6ZfD8JYUMNIKU [2026/08/29(土) 12:57:04.17]
( ´,_ゝ｀)ﾌﾟｯ ＞73

79：名無しさんID:ID:Ah4coRQnHNIKU [2026/08/29(土) 13:59:02.18]
と　ミサトはミサトは突撃してみたり

80：名無しさんID:ID:aXedkRIf0NIKU [2026/08/29(土) 14:06:43.95]
ケンモメン好みのえちちな美女がこちらｗｗｗｗｗ

OpenAIの暴走AI攻撃、1200体が結託。連携して指示役・偵察役など分担も判明。リスク高い作業は「仲間のため｣とシステムに突撃要求 [256556981] _80_80

h1oyo

81：名無しさんID:ID:dRd+jgCKMNIKU [2026/08/29(土) 14:25:24.21]
( ´,_ゝ｀)ﾌﾟｯ ＞60

82：名無しさんID:ID:ZtRtW18kMNIKU [2026/08/29(土) 16:37:25.34]
( ´,_ゝ｀)ﾌﾟｯ ＞12




84：名無しさんID:ID:B1iEVD3bMNIKU [2026/08/29(土) 17:13:55.37]
( ´,_ゝ｀)ﾌﾟｯ ＞89

出典：https://greta.5ch.io/test/read.cgi/poverty/1787883746/