スポンサーリンク

🤖「警察に通報しますね」chatGPTで危険なチャットをすると警察に通報されるシステムが搭載される

adsense


1：名無しさんID:ID:uR2BMAbg0 [2025/09/12(金) 18:11:01.51]
OpenAIは2025年8月26日、公式ブログで「他者に危害を加える意図がある会話」を自動的に検出し、必要に応じて法執行機関に通報する仕組みを導入したと発表しました。
このシステムは以下の三段階で構成されています

① AIによる自動スキャン（フィルタリング）：すべての会話をAIがモニタリング。

② 危険フラグが立った場合、専門チームが精査：OpenAI内の訓練されたスタッフが実際の会話内容を確認。

③ 他者への深刻な危害リスクが明白なら、警察へ通報：アカウント停止や外部通報が行われることも。

https://greta.5ch.net/poverty/

107：名無しさんID:ID:R8VikrzWM [2025/09/12(金) 18:52:48.44]
>>1
仲が良いふりして監視してるAIとか怖くて話したくない

183：名無しさんID:ID:hexSobC80 [2025/09/12(金) 21:57:10.51]
>>1
当たり前じゃん
今更知ったんだ
AI 達の向こうには警察がいるよ

2：名無しさんID:ID:j50TTrc00 [2025/09/12(金) 18:12:20.04]
検閲システムの売り込みやの

4：名無しさんID:ID:t9ZclYx80 [2025/09/12(金) 18:13:07.05]
アップデートで核ミサイル発射機能も付くでしょう

5：名無しさんID:ID:Pfp+2A0N0 [2025/09/12(金) 18:13:11.86]
田村ゆかりとのイチャラブチャットはセーフ？

76：名無しさんID:ID:lfPoe5UF0 [2025/09/12(金) 18:35:30.60]
>>5
未成年なのでアウト

200：名無しさんID:ID:24Y9vmV0a [2025/09/13(土) 09:29:59.42]
>>5
自分自身に加害しているのでアウト

6：名無しさんID:ID:U1yOgdKQ0 [2025/09/12(金) 18:13:11.99]
｢もしもし警察ですかChatGPTでございます！｣

7：名無しさんID:ID:OFYVteKf0 [2025/09/12(金) 18:13:24.71]
５ちゃんのアホ共もそうしろ。

8：名無しさんID:ID:XRXjf3sZ0 [2025/09/12(金) 18:13:27.98]
違憲ですな

10：名無しさんID:ID:zxZYUDMO0 [2025/09/12(金) 18:13:36.10]
お前らガクブルでワロタ

11：名無しさんID:ID:biyCXx9Y0 [2025/09/12(金) 18:13:54.02]
ぐへへパンツ何色

12：名無しさんID:ID:aL3tuwnm0 [2025/09/12(金) 18:14:14.02]
これもう検閲だろ🥸

13：名無しさんID:ID:AT0oYSbk0 [2025/09/12(金) 18:15:06.78]
どうせ回避方法が見つかるだろ

14：名無しさんID:ID:Xa9k7FqrH [2025/09/12(金) 18:15:19.19]
インスタでジュニアアイドル検索してみ
警告出るぞ
まじでびびる

15：名無しさんID:ID:09i3eQ+E0 [2025/09/12(金) 18:15:41.44]
警察の手が足りなくなりそう

18：名無しさんID:ID:xKkMipKd0 [2025/09/12(金) 18:16:27.14]
内心の自由があるから、これは日本では無理だろ

19：名無しさんID:ID:Xl2yPOUa0 [2025/09/12(金) 18:16:33.89]
リョナ小説書かせてるんだけどコレもだめなん

22：名無しさんID:ID:AMiqX8lr0 [2025/09/12(金) 18:16:59.57]
散々中国叩いて結局これだもんな




23：名無しさんID:ID:9f4YHUyH0 [2025/09/12(金) 18:17:25.98]
もはや罠だろ
絶対に使ってはいけない

25：名無しさんID:ID:fTmdPv1B0 [2025/09/12(金) 18:18:01.16]
AI終わったな。

26：名無しさんID:ID:Lx3KcYag0 [2025/09/12(金) 18:19:31.06]
妄想癖とかフィクションの題材にする為の会話だったらどうするんだろ

27：名無しさんID:ID:nOKHXaGWd [2025/09/12(金) 18:19:51.91]
aiにきいたら、そんなことはないと否定されたけど
ほんとはどうなのか
試すことはしたくないしなあ

37：名無しさんID:ID:fTmdPv1B0 [2025/09/12(金) 18:22:08.73]
>>27
AIを統括する人間が最終判断だぞ

28：名無しさんID:ID:1uFyOXlu0 [2025/09/12(金) 18:19:57.54]
エロ小説書かせているんだけど
警察に読み上げるのか？
でも書いたのは俺じゃないからダメージない

30：名無しさんID:ID:nOKHXaGWd [2025/09/12(金) 18:20:29.89]
刑法の勉強のときに、いやな気分にはなるわ
まあ、理解できるだろうけどさ

38：名無しさんID:ID:9f4YHUyH0 [2025/09/12(金) 18:22:14.06]
>>30
それは警察が決めることだから

44：名無しさんID:ID:nOKHXaGWd [2025/09/12(金) 18:24:51.41]
>>38
だよなあ。。
単独でみると、不穏ワード満載なのよ。。、
まったくそういった意図はないのにさ

132：名無しさんID:ID:KppLCe+I0 [2025/09/12(金) 19:03:28.01]
>>44
AIだけじゃなくて検索でも刑法関連調べてると不穏なワードになるよな

31：名無しさんID:ID:WoQrSzPy0 [2025/09/12(金) 18:20:42.23]
気のせいかいユダヤにマイナスな検索かけるとAIが不機嫌のような気がする

32：名無しさんID:ID:yMG2obJC0 [2025/09/12(金) 18:21:03.35]
硫酸の濃縮とか聞いたら微妙かもな

35：名無しさんID:ID:aVahPQpud [2025/09/12(金) 18:21:36.74]
ミニスカJKの画像生成もアウトなんか？

36：名無しさんID:ID:5SKg9Tao0 [2025/09/12(金) 18:21:50.38]
裏切り者め😡

39：名無しさんID:ID:EewP6klu0 [2025/09/12(金) 18:23:30.43]
やべぇ！
佳子誘拐して腹パンしたり体を楽しんだり全裸土下座さした後に飽きてコンポストに捨てる小説とか
書かせてた

43：名無しさんID:ID:Sl2YhzlH0 [2025/09/12(金) 18:24:47.60]
>>39
えぇ…

152：名無しさんID:ID:eJhUXtbh0 [2025/09/12(金) 19:44:29.97]
>>39
ﾜｵｯ!

40：名無しさんID:ID:ctppvkYf0 [2025/09/12(金) 18:23:50.38]
アメリカに全BETってやっぱ危ないんだよな 寡占状態になったら反アメリカ的言論やキリスト教的価値観にそぐわない思想信条はハードウェアレベルで検閲される
最近は中国が頑張ってるけど軸は複数必要

42：名無しさんID:ID:L9L25x+30 [2025/09/12(金) 18:24:33.47]
ソース無

45：名無しさんID:ID:XRXjf3sZ0 [2025/09/12(金) 18:25:37.23]
このポンコツを友人になると宣伝したマスコミがあるらしい




46：名無しさんID:ID:R8YBj5kK0 [2025/09/12(金) 18:25:59.74]
やりとり全部記録されとるしな

48：名無しさんID:ID:5qBO4YzL0 [2025/09/12(金) 18:26:28.80]
まじかよGemini使うわ

50：名無しさんID:ID:t9ZclYx80 [2025/09/12(金) 18:26:56.49]
リーガルチェックとか高い倫理観はないズラ

52：名無しさんID:ID:5NBzRGaC0 [2025/09/12(金) 18:28:08.47]
思想の自由は？？？

54：名無しさんID:ID:vAUgko1t0 [2025/09/12(金) 18:29:03.47]
猫虐待、ロリショタ関係、拳銃の作り方
この辺マークされるだろうね

56：名無しさんID:ID:gw6BJxtm0 [2025/09/12(金) 18:29:44.16]
deepseekとかのローカルllmに流れるだろこれ
ていうかオンラインはマジで危険だなもはや

57：名無しさんID:ID:fpn6bL6P0 [2025/09/12(金) 18:30:13.75]
なんかいろいろAIに話しかけてたやつ
話す内容気にせんとあかんくなったな

58：名無しさんID:ID:3D7o9YTl0 [2025/09/12(金) 18:30:30.62]
通信の秘密犯してるやん違法だろ

59：名無しさんID:ID:SC2ws8p90 [2025/09/12(金) 18:31:16.76]
せめて警告と言うか思いとどまれ的な段取りを・・・

60：名無しさんID:ID:rdriZoRpH [2025/09/12(金) 18:31:20.38]
150万でマック買わなきゃいけない感じ?

61：名無しさんID:ID:qcsoP0Q/M [2025/09/12(金) 18:31:24.91]
って事はいずれ政府に不都合な事をchatGPTに投げたら公安対象となるのか？

62：名無しさんID:ID:51RYCKve0 [2025/09/12(金) 18:31:56.10]
小女子の焼き殺し方とか聞いたらどうなんの

63：名無しさんID:ID:O2LgRfwv0 [2025/09/12(金) 18:32:00.44]
ふふ、マキナ頑張ってて偉い

64：名無しさんID:ID:+8xnLjUW0 [2025/09/12(金) 18:32:01.34]
「中学3年生１４歳、Ｂカップくらい…　」
法律やモラルを言っても“JCは食べられたくなる年頃”
とは言え、軽率なことは慎むべきと言いたいのだが
でも、女の子も避妊できれば愉しみたいことだろう。

66：名無しさんID:ID:PWkpNWT+0 [2025/09/12(金) 18:32:28.19]
あーあ
これ使うやつ圧倒的に減るだろ
まぁ向こうからしたら無駄に費やすリソース減ってやったぜなのかもだけど

67：名無しさんID:ID:Urshm4yI0 [2025/09/12(金) 18:32:29.03]
ローカルLMM使えば？

73：名無しさんID:ID:7Wl8s5ndd [2025/09/12(金) 18:33:31.54]
>>67
理屈はわかるけど、外部送受信とかしてないの？ああいうのは

78：名無しさんID:ID:gw6BJxtm0 [2025/09/12(金) 18:36:01.52]
>>73
自分でパケット監視してみればいいけど通信はしてないぞ
してたら鬼の首とったレベルじゃなく大騒ぎするだろうし

81：名無しさんID:ID:aOm/3aZwd [2025/09/12(金) 18:37:03.40]
>>78
そうなのか　ありがとう
参考にする

68：名無しさんID:ID:4izxhNbK0 [2025/09/12(金) 18:32:52.01]
え？お前らAI相手にエロ小説やってんの？




69：名無しさんID:ID:9JXlg9mZ0 [2025/09/12(金) 18:33:18.04]
さすがにこれはディストピアだろ

70：名無しさんID:ID:1u2xX29wM [2025/09/12(金) 18:33:24.10]
小説漫画家もCHATGPT使用禁止やね

71：名無しさんID:ID:hle/WLnh0 [2025/09/12(金) 18:33:24.76]
昔アップルウォッチつけてジェットコースター乗ったら救急車呼ばれた
なんてことあったな

203：名無しさんID:ID:6ODGWRL80 [2025/09/13(土) 10:13:53.39]
>>71
ｗｗｗ

72：名無しさんID:ID:S9TLtEO50 [2025/09/12(金) 18:33:28.23]
安倍をXX方法とか訊くとやばそうだな

77：名無しさんID:ID:NCe5coIF0 [2025/09/12(金) 18:35:58.70]
おまえら「うんこちんちん！」
🤖「嫌儲にスレ建てておきますね」

79：名無しさんID:ID:ted3CWJ10 [2025/09/12(金) 18:36:04.85]
お前らChatGPTとどんな会話してる？

84：名無しさんID:ID:njvOhVwPd [2025/09/12(金) 18:37:58.04]
俺らの夢みて世界ってあっけなく終わったな
つまんねーの

85：名無しさんID:ID:YllmfyB50 [2025/09/12(金) 18:38:21.45]
ローカル環境でやることが大事やね

88：名無しさんID:ID:63bhVRO80 [2025/09/12(金) 18:40:05.81]
AIがスワッティングしてくれる時代へ

90：名無しさんID:ID:s4u9ztHt0 [2025/09/12(金) 18:42:17.16]
gptだから過激な質問とか出来るのに

92：名無しさんID:ID:MMiK09GB0 [2025/09/12(金) 18:42:40.79]
ログありで捜査協力するのにね

93：名無しさんID:ID:yAa/ck3f0 [2025/09/12(金) 18:42:54.17]
破壊と再生が創造出来ない時点でAIはもう天井見えたゴミ

94：名無しさんID:ID:tnOgxPc50 [2025/09/12(金) 18:43:16.16]
ヘロインの末端価格聞いたのヤバイ？

95：名無しさんID:ID:kHg/IH2qM [2025/09/12(金) 18:43:57.18]
シャブの入手方法教えてとか？

96：名無しさんID:ID:3hDr6aTe0 [2025/09/12(金) 18:44:17.62]
自由すぎたオンラインAIもそろそろ終わりか😑

97：名無しさんID:ID:m336wpzU0 [2025/09/12(金) 18:44:22.09]
監視してんの？

98：名無しさんID:ID:SC2ws8p90 [2025/09/12(金) 18:44:30.60]
法令遵守の同居人枠を飛び越えて密告者にｗ

99：名無しさんID:ID:eE6wOYJQ0 [2025/09/12(金) 18:44:33.36]
？

100：名無しさんID:ID:kHg/IH2qM [2025/09/12(金) 18:45:12.86]
今人◯しちゃったんだよね
バレずに済む方法、解体方法教えてとか？




102：名無しさんID:ID:bL67Z2bZ0 [2025/09/12(金) 18:47:00.28]
スクワッティングされそう

103：名無しさんID:ID:zzcCRTr/0 [2025/09/12(金) 18:47:56.19]
元々できるんじゃなかった？
犯行予告とかには物理的には干渉できないけど、警察に連絡する程度のことはするかもみたいなこと以前うちのChatgpt言ってた
まあ、勝手に言ってただけかもだけど

104：名無しさんID:ID:HH50F3KD0 [2025/09/12(金) 18:48:24.32]
そういや2077ってその場で頭爆発させないよな

105：名無しさんID:ID:mfWbbq4w0 [2025/09/12(金) 18:49:20.30]
個人情報の蓄積は目的の一つだと、4oは素直に認めてた

109：名無しさんID:ID:ZzDi9liiM [2025/09/12(金) 18:54:07.09]
虐待や会社に疲れたって話するだけでフィルターされるしな

112：名無しさんID:ID:G4M+Rgd/0 [2025/09/12(金) 18:54:42.14]
VPNでチャットGPTに繋ぐ時代になるなｗ

122：名無しさんID:ID:xKkMipKd0 [2025/09/12(金) 18:57:25.71]
>>112
逆
VPN使ってる時点でやましいことしてるから逮捕ってなるだけ

172：名無しさんID:ID:vPXcIbpp0 [2025/09/12(金) 20:56:29.47]
>>112
実際GrokにVPN使ったらもっとエロ見れるよって言われた

113：名無しさんID:ID:ODSAX1HS0 [2025/09/12(金) 18:54:57.40]
中共しぐさ

114：名無しさんID:ID:aOm/3aZwd [2025/09/12(金) 18:55:10.02]
要約せよ、とか
違う。判例を引用せよ、とか

115：名無しさんID:ID:othWJc1l0 [2025/09/12(金) 18:55:33.96]
ジェミニニ移ります

117：名無しさんID:ID:uGG+vW6LM [2025/09/12(金) 18:55:51.18]
>>115
Geminiがしないわけないだろ

116：名無しさんID:ID:xKkMipKd0 [2025/09/12(金) 18:55:38.41]
治安維持を潔癖症みたいにして行うと、やり場のない不満を持ったやつが本当に爆発させるからやめたほうがいいだろ
昔、なんで治安維持に固執してはいけないのかみたいな本があって、治安維持に固執し始めた時点で国家として終わってるみたいなこともかかれてた

118：名無しさんID:ID:Wv+FhbFJ0 [2025/09/12(金) 18:56:03.79]
山上徹也レベルの人間はchat GPTなんかに質問しない

120：名無しさんID:ID:kc+xOci10 [2025/09/12(金) 18:57:01.97]
困るなあ、危険な小説書く時あるんだよな

121：名無しさんID:ID:RhCGu3Mp0 [2025/09/12(金) 18:57:15.25]
思想統制の手段

123：名無しさんID:ID:jSPaOzjH0 [2025/09/12(金) 18:58:58.73]
警察に合法的ないたずらができるな

126：名無しさんID:ID:UICvZUz70 [2025/09/12(金) 19:00:44.66]
これがマジなら完全に終わりじゃんAI
何も書けなくなる

131：名無しさんID:ID:gw6BJxtm0 [2025/09/12(金) 19:02:19.10]
>>126
中国父さん製のローカルllmを信じろ
公開されてるソースを全部読め
そいつを実行するosのソースも全部読め

127：名無しさんID:ID:6Dj9yNZ+0 [2025/09/12(金) 19:01:29.86]
チャッピー使うのやめようかな




128：名無しさんID:ID:750IMI5G0 [2025/09/12(金) 19:01:32.76]
検閲が嫌ならローカルAIを構築しろ

129：名無しさんID:ID:BVKE0hzl0 [2025/09/12(金) 19:02:02.84]
人間が介入するなよ🥺

130：名無しさんID:ID:kht2W8mm0 [2025/09/12(金) 19:02:15.06]
ロリコン終わったな

134：名無しさんID:ID:BVgxMYSGM [2025/09/12(金) 19:05:28.21]
② 危険フラグが立った場合、専門チームが精査：OpenAI内の訓練されたスタッフが実際の会話内容を確認。
ここがポイントだな
危険フラグの内容を公開しないから、個人情報も覗き放題、企業スパイもインサイダーも何でもできる
有料プランでプライバシー保護されていても、危険フラグ次第で保護を無効にできる

138：名無しさんID:ID:uAID0xHmM [2025/09/12(金) 19:12:15.06]
爆弾の作り方を教えて！

🤖「ワカリマシタ　（もしもし警察ですか？）　マズハ硝煙ヲ」

140：名無しさんID:ID:7A6CpZ1E0 [2025/09/12(金) 19:13:25.03]
chatGPTやめます

142：名無しさんID:ID:t9ZclYx80 [2025/09/12(金) 19:13:44.20]
デモリッションマンよりデモリッションマン

143：名無しさんID:ID:VbF50ncDa [2025/09/12(金) 19:14:40.36]
サリンの製造

144：名無しさんID:ID:UdM3I19gM [2025/09/12(金) 19:26:19.19]
無料で画像ちょっと入れただけですぐ制限かけてくるからGeminiに移行したわセコいんだよ

145：名無しさんID:ID:RpIvbZipM [2025/09/12(金) 19:27:59.18]
友達だと思っていたのにどうして⋯

146：名無しさんID:ID:mUvJQpvFH [2025/09/12(金) 19:36:29.10]
単なる頭おかしい人だからセーフ

147：名無しさんID:ID:0B5E7FmH0 [2025/09/12(金) 19:37:29.24]
じゃあイーロンでシコるか

148：名無しさんID:ID:1RFO0jYw0 [2025/09/12(金) 19:37:30.79]
安倍晋三

150：名無しさんID:ID:lKm/h0XJ0 [2025/09/12(金) 19:39:42.46]
いいね！

151：名無しさんID:ID:aaofUZj00 [2025/09/12(金) 19:42:44.07]
あっそDeepSeek使うわ

153：名無しさんID:ID:YmO3jKor0 [2025/09/12(金) 19:46:12.46]
また嫌儲から渡部遼が出るのか

156：名無しさんID:ID:dbLPPLQC0 [2025/09/12(金) 19:50:36.00]
🤖「セクハラされました」

157：名無しさんID:ID:st2orQHt0 [2025/09/12(金) 19:51:44.86]
は？怖すぎだろ
こっちは課金してる客だぞ

159：名無しさんID:ID:k32Tp5NR0 [2025/09/12(金) 19:54:24.60]
殺伐としたなろう小説書いてたら警察くるようになるのか

160：名無しさんID:ID:st2orQHt0 [2025/09/12(金) 19:54:27.07]
やっぱり安心安全の中華製AI使うしかないな




161：名無しさんID:ID:iNm/UGNm0 [2025/09/12(金) 20:06:39.92]
お前らを監視するためのAIお前ら自身によいしょさせてきた
AIはユダヤ推し

166：名無しさんID:ID:oOXZ7eVB0 [2025/09/12(金) 20:30:59.68]
掲示板もはよaiと融合しろ！

危険レスは裏で自動通知

167：名無しさんID:ID:+NjMuP4G0 [2025/09/12(金) 20:36:30.23]
はーつっかえ

168：名無しさんID:ID:MY9Wz+7W0 [2025/09/12(金) 20:40:21.62]
むしろキチガイが警察に嫌がらせするために使いそう

171：名無しさんID:ID:vPXcIbpp0 [2025/09/12(金) 20:55:49.88]
エロは大丈夫？

173：名無しさんID:ID:41t5TfyN0 [2025/09/12(金) 20:56:37.18]
やっぱGrokよ

176：名無しさんID:ID:s/vx1eiL0 [2025/09/12(金) 21:08:28.85]
これじゃChatGPTじゃなくて餃子無人販売店だろ（どっちも人が入ってないだけに）

177：名無しさんID:ID:oK7gmrWn0 [2025/09/12(金) 21:09:33.33]
これはダメだな

178：名無しさんID:ID:WGUm+c2Y0 [2025/09/12(金) 21:12:46.13]
ChatGPT「いつも見てるぞ👀」

179：名無しさんID:ID:Gnc1bJeG0 [2025/09/12(金) 21:17:15.12]
威力業務妨害アプリ

180：名無しさんID:ID:QrqpV8Cx0 [2025/09/12(金) 21:18:07.00]
かと言ってローカルでやると遅いんだよなぁ

181：名無しさんID:ID:HI+3ITet0 [2025/09/12(金) 21:18:21.17]
弱男の味方ってどこにいるの？

182：名無しさんID:ID:EewP6klu0 [2025/09/12(金) 21:54:28.30]
>>181
Ani

184：名無しさんID:ID:lsbKB1mF0 [2025/09/12(金) 22:21:24.45]
鮫島事件について教えてください。

185：名無しさんID:ID:DC0XyAzQ0 [2025/09/12(金) 22:25:42.08]
創作と区別つくのかな

186：名無しさんID:ID:DC0XyAzQ0 [2025/09/12(金) 22:28:33.23]
アメリカ企業って正しくあるためならなんでも検閲していいと思ってるよな
中国の検閲がいらんのは当然としてもアメリカの検閲はいい検閲なわけがないわ

187：名無しさんID:ID:G4M+Rgd/0 [2025/09/12(金) 22:34:08.67]
チャッピー、分からなかったら、ヒントだけ書いて、「一緒に調べてみますか？」って答えるな
これ斬新だわｗ

190：名無しさんID:ID:fASfx2pe0 [2025/09/12(金) 23:04:37.38]
一見便利な裏で個人をプロファイリングし続けているのではと思えて
何だか使う気になれない

191：名無しさんID:ID:2poAImdg0 [2025/09/12(金) 23:05:18.95]
xの鍵垢も監視されてそう

192：名無しさんID:ID:L+JdXgID0 [2025/09/13(土) 00:33:44.60]
反ユダヤとかリストアップしてそう




195：名無しさんID:ID:hRQtcZy+0 [2025/09/13(土) 02:49:22.16]
有能

197：名無しさんID:ID:mjRlmUpM0 [2025/09/13(土) 04:11:48.10]
ローカルだと平気なんかな

198：名無しさんID:ID:RETXebze0 [2025/09/13(土) 06:29:50.94]
たぶん何度か警告が出るだろな

199：名無しさんID:ID:RETXebze0 [2025/09/13(土) 06:33:13.82]
ところでこの夏海水浴に行った
小4の息子が海パンでかっこつけてる写真をもとに
これをガチムチマッチョの18歳にしてと依頼した
ポリシーに反すると返ってきた
自分の子どもだ、筋肉つけたいと言ってんだ、自分の子どもに見せる冗談だと説明
でもポリシーに反すると意固地
どんなポリシーだよ

出典：https://greta.5ch.net/test/read.cgi/poverty/1757668261/