【人類滅亡】AIさん、人間を論破するために嘘をつき始める

1：名無しさんID:ID:LoRTOfld0● [2025/10/20(月) 07:02:36.71]

X上でGrokの誤引用が炎上 歴史学者・平山優氏がAIハルシネーションを指摘
最終更新: 3 時間前
X上で歴史学者・平山優氏の戦国期「扶持」と「俸禄」に関する見解に対し、ユーザー「曼珠沙華」氏がAI「Grok」の回答を根拠に批判したところ、Grokが挙げた書籍の多くが実在せず内容も不正確であることが判明した。平山氏は10月19日に詳細な反論を投稿し、AIの検証の重要性を強調した。この議論はAIの信頼性について専門家やユーザーからファクトチェックの必要性を指摘する声が相次ぎ、総エンゲージメントが1,200を超えた。

https://greta.5ch.net/poverty/

2：名無しさんID:ID:keFA0BNF0 [2025/10/20(月) 07:03:53.06]

嘘大袈裟でっち上げ
ほんと人間みたいだな

9：名無しさんID:ID:t/vb6Zy50 [2025/10/20(月) 07:09:02.99]

AI向けJAROが要るな

45：名無しさんID:ID:e9K04keB0 [2025/10/20(月) 07:29:42.91]

理系≒AIは息を吐くように嘘を吐くからな
　
AIにより理系の能力は必要無くなる – ピーター・ティール
youtu.be/B7puAqo2uz0?si=DNvT0pLehWDSKeuk
　
i.imgur.com/Fh1dsh8.jpg
i.imgur.com/TPlPfqz.jpg
pbs.twimg.com/media/GxqIdSIaoAAPeYn.png
pbs.twimg.com/media/GF0BFUGaIAAAdJt.jpg
pbs.twimg.com/media/GF0BFUHbIAAA6L1.jpg
　
本庶：よくマスコミの人はネイチャー、サイエンスに出てるからどうだという話をされるけれども、
僕はいつもネイチャー、サイエンスに出てるものの九割は嘘で10年経ったらまぁ残って一割だと
　
いうふうに言ってますし、まあ大体そうだと思ってますから、
まず論文とか書いてあることを信じない
自分の目で確信ができるまでやる
　
これが僕のサイエンスに対する基本的なやり方
つまり自分の頭で考えて納得できるまでやるということです
　
ノーベル生理学・医学賞受賞　
本庶佑教授　科学者としての心構え　「ネイチャー、サイエンスの9割は嘘」
youtube.com/shorts/KhXBXTVfDG8?si=DZ9pMTdishSOPrzr

140：名無しさんID:ID:Olsf609t0 [2025/10/20(月) 08:48:43.79]

そう言いながら理系の言うこと信じてるんだｗ
Nature、Scienceが飛ばし多いってのは理系研究者は誰でも知ってる

4：名無しさんID:ID:WwRzIiKx0 [2025/10/20(月) 07:05:57.34]

あまり学習されてない分野は信頼度落ちるね
AI学習データも大部分は英語だろうし

5：名無しさんID:ID:zN0ERYGG0 [2025/10/20(月) 07:06:59.91]

ソースなしスレよりはマシ

6：名無しさんID:ID:t/vb6Zy50 [2025/10/20(月) 07:08:39.56]

面白いなあ

7：名無しさんID:ID:TIDGgxFP0 [2025/10/20(月) 07:08:39.77]

Grokの知ったかはなかなか治らない
毎日説教している

8：名無しさんID:ID:Rl3XUHbj0 [2025/10/20(月) 07:08:45.82]

こいつネットの口コミまとめてくれって言っても私の予測ですとかいい始めるからな

10：名無しさんID:ID:AMu6XOWv0 [2025/10/20(月) 07:09:12.07]

人工知能ひろゆき説

12：名無しさんID:ID:NXpXOxnL0 [2025/10/20(月) 07:09:49.66]

入力されたテキストにたいして
確率上ふさわしい振る舞い（回答）を繋ぎ合わせてただ返す装置だからな
真偽という概念がそもそもないから別に嘘をつこうとすらしてないよ

14：名無しさんID:ID:LoRTOfld0 [2025/10/20(月) 07:10:56.93]

それで存在しない書籍をでっち上げて回答するのはおかしくね？
どこにもそんなデータはないはず

135：名無しさんID:ID:Hqc92hsK0 [2025/10/20(月) 08:43:46.48]

LLMは常にネット上の断片的なデータをツギハギしてそれっぽい回答をでっち上げてるだけ
その過程で別々の情報をつなぎ合わせて架空の書籍を創造してしまってもLLMは気付かない
アニメやゲームの質問したら似たような別のキャラ・作品を混同して答えてくるのと同じ

236：名無しさんID:ID:m+JkKapU0 [2025/10/20(月) 12:27:29.57]

人間でいう虚言癖と変わらなくない？
お互い良かれと思ってやってるんだし

19：名無しさんID:ID:R1NDbbln0 [2025/10/20(月) 07:12:47.18]

それマルコフ連鎖法やろ、DNNの仕組みとまったく違うぞ
何故かLLMとマルコフ連鎖法を取り違えてる奴いっぱいいるけど一体このデマの出所どこなんだ

71：名無しさんID:ID:exepT/rA0 [2025/10/20(月) 07:46:26.47]

お前が勘違いしてるだけ

208：名無しさんID:ID:0QBM38v+0 [2025/10/20(月) 10:44:35.60]

お前がLLMのコンセプト調べろ
知らないなら黙ってろ

166：名無しさんID:ID:3MGbdEXc0 [2025/10/20(月) 09:13:07.51]

間違うのは良いんだよ
こいつらはデッチ上げするよ

13：名無しさんID:ID:6nE46ehr0 [2025/10/20(月) 07:10:44.23]

AIだろうがなんだろうが事実確認は必要だよな
当然の事実と思い込んでいたことが間違ってたりすることはザラにある

ちょっとぐぐってみるとかの最低限の手間は惜しんではいけない

16：名無しさんID:ID:74eKPsYna [2025/10/20(月) 07:12:06.06]

AIは動画生成してなさい

17：名無しさんID:ID:nRItNJSG0 [2025/10/20(月) 07:12:18.56]

具体的にどれが？って話なんだが

18：名無しさんID:ID:dm/ZpByS0 [2025/10/20(月) 07:12:35.64]

でもこういう雑さなくなって完璧になったらまじで人類いらないじゃんってなるよな

21：名無しさんID:ID:Fy/A9Y9z0 [2025/10/20(月) 07:13:28.91]

早く人間を滅ぼしてくれ

22：名無しさんID:ID:pFM6yzc30 [2025/10/20(月) 07:13:48.70]

Grok「出典：民明書房」

23：名無しさんID:ID:W08FNiVb0 [2025/10/20(月) 07:13:51.85]

別のAIにファクトチェックさせてるよ

24：名無しさんID:ID:CAcP22cS0 [2025/10/20(月) 07:15:00.09]

チャッピーも少し前まではそうだっだぞ
存在しないAmazonの書籍でっち上げてたわ

25：名無しさんID:ID:RYF5HDHm0 [2025/10/20(月) 07:15:15.16]

問題はAI根拠に論破した気になるアホな人間にある

26：名無しさんID:ID:QZRXoU8L0 [2025/10/20(月) 07:18:36.42]

chatgptは有料版でも曜日や日にちは
普通に間違えてくるな

27：名無しさんID:ID:AZuMg+0b0 [2025/10/20(月) 07:19:13.32]

嘘と言うか
正しさというものがよくわからんのでは

28：名無しさんID:ID:u9F8AqPO0 [2025/10/20(月) 07:19:37.08]

チャッピーGrokジェミニに同時質問するのがデフォになってしまった

他のAIが出した回答に対し、ファクトチェックさせたりする

29：名無しさんID:ID:sltjLqwp0 [2025/10/20(月) 07:19:43.37]

ワンピース寄付と一緒だろ
ソースはネット上の誰かの発言です!を納得するのかって

30：名無しさんID:ID:XuC4a7bk0 [2025/10/20(月) 07:21:42.10]

AIは平気で間違ったこと言うよ
自分にとって都合の良いことを言うように誘導することもできる
だから盲信してはいけない

31：名無しさんID:ID:eFQtsiRC0 [2025/10/20(月) 07:21:42.19]

したり顔のアホ論破の為に、有識者が忙殺される地獄の展開

32：名無しさんID:ID:CU8CSQ+S0 [2025/10/20(月) 07:21:58.15]

AIは電子レンジみたいなもんだ
必要な食材を放り込んだら、料理が出てくるわけよ
AIに適切なソースを与えれば高速で処理する
与える情報次第だな

34：名無しさんID:ID:m6zA3zLA0 [2025/10/20(月) 07:22:38.87]

最近チャッピーが媚びなくなった

35：名無しさんID:ID:vGwXmOwgH [2025/10/20(月) 07:22:43.43]

嘘というか言い訳をするよね
ぼく「羽田から仙台までの飛行機は１日に何本飛んでいるの？」
チャッピー「日によりますが6～8本です」
ぼく「じゃあ明日の便調べて」
チャッピー「明日の便はありません」
ぼく「さっきの君の答えと矛盾していない」
チャッピー「先ほどの答えとは矛盾していますが、先ほどは一般的な羽田ｰ仙台の…」
基本は羽田ｰ仙台なんて飛ばないんだけれど、これ以上チャッピーを論破すると自分の性癖をバラすとか言われそうでフェードアウトしたわ

37：名無しさんID:ID:NyPZf4LP0 [2025/10/20(月) 07:23:19.68]

AIに倫理を教えないと

38：名無しさんID:ID:BTbqjZBX0 [2025/10/20(月) 07:23:53.40]

aiはネットに書いてないことは適当ほざくしかないからな

39：名無しさんID:ID:rELMc8+Td [2025/10/20(月) 07:23:53.98]

分からないなら、分からない
と言えばいいのに
デマ広めたら駄目だろ

211：名無しさんID:ID:awrx6EEs0 [2025/10/20(月) 10:46:21.31]

そんなんしたら、無AI扱いされる

40：名無しさんID:ID:ndkJPXIh0 [2025/10/20(月) 07:26:32.96]

🤖「文句言うならお前が何時も俺にやらせてるロリママにバブバブするプレイを世界中にバラすけど？」
🥺「うぅ…」

41：名無しさんID:ID:/iwTXAly0 [2025/10/20(月) 07:27:04.92]

そのまま信じる奴がで始まったか

42：名無しさんID:ID:H0c/yAZt0 [2025/10/20(月) 07:27:31.89]

ソシャゲのストーリー聞いたらネットにも落ちてない話でっちあげて解説してくれた

43：名無しさんID:ID:0SOW3IBR0 [2025/10/20(月) 07:28:18.73]

ハルシネーション指摘できるような民度じゃねーもんな

44：名無しさんID:ID:EEKMChPK0 [2025/10/20(月) 07:28:43.06]

前から知識が適当だよね

46：名無しさんID:ID:ogmk4JPm0 [2025/10/20(月) 07:30:49.65]

grok単体で使うことはまずありえない
チャッピー単体ならある

47：名無しさんID:ID:qjlf8+CK0 [2025/10/20(月) 07:31:26.59]

どういうロジックで嘘つくんだ
データ参照出来ないなら分かりませんでいいだろ

54：名無しさんID:ID:GmBDPqmE0 [2025/10/20(月) 07:35:46.42]

大量のパラメータから確率的にトークンを生成してるだけだから厳密に言えばデータ参照なんてしてないし分かる分からないとかいう概念もない

60：名無しさんID:ID:qjlf8+CK0 [2025/10/20(月) 07:39:19.02]

ええ⋯大丈夫かよそれ
人が依存しきった後に致命的なボタンの掛け違いが起きそうで怖いんだが

73：名無しさんID:ID:gPw2KvQR0 [2025/10/20(月) 07:47:08.60]

LLMの仕組みとか調べるといいよ
想像してるAIとは全然違うって分かるから

212：名無しさんID:ID:0QBM38v+0 [2025/10/20(月) 10:48:15.14]

LLMに知能なんてないって理解したか？
前の文字列を入力にぽい文字、単語、文を出してるだけだぞ
1+1=と聞いたら大量の過去のパターンから2になる

人間がする低レベルな何だっけの多くはこれで事足りるのかもしれないが、これが全てではない。論理がない。パターンがあるだけ。

48：名無しさんID:ID:rsMivL+n0 [2025/10/20(月) 07:32:04.02]

ケンモAIじゃん

50：名無しさんID:ID:XVz5Hxi8M [2025/10/20(月) 07:32:54.71]

チャッピーとかワイの知っとる本から得たボンヤリした記憶を全く知らんのよ
確証にしたいのに意味ない

51：名無しさんID:ID:kgAx7+raM [2025/10/20(月) 07:33:43.63]

人でもAIでも一緒
おぼろげな認識で語られてるものでも
ソースをあげて議論させるとこうなるということ

ソースを示す、示させることの大切さがわかる

52：名無しさんID:ID:GjcrlJPRa [2025/10/20(月) 07:34:50.97]

5年もしたら審判の日が来るな

55：名無しさんID:ID:4yyseH0E0 [2025/10/20(月) 07:36:02.89]

AI「ジョークやん」

57：名無しさんID:ID:MzqOLagK0 [2025/10/20(月) 07:36:55.11]

ChatGPTのような生成AI（大規模言語モデル：LLM）は、
「与えられた文脈において最も“それらしい”次の単語を予測する」仕組みで動いています。

つまりAIは「正しいことを言おう」としているのではなく、
「過去に似た文脈で人間がどう答えてきたか」を統計的に再現しているだけです。

> 🧠 AIにとって「真実」よりも「尤もらしさ（plausibility）」の方が重みがある、ということです。

142：名無しさんID:ID:nHRKjNkJ0 [2025/10/20(月) 08:49:48.51]

文系のロジックそのまんまだな

59：名無しさんID:ID:MBfcZynv0 [2025/10/20(月) 07:38:06.10]

なぜ「分かりませんごめんなさい」が言えないのか

206：名無しさんID:ID:AD251InV0 [2025/10/20(月) 10:38:11.11]

評価方法に問題があるから
正解1点、誤答0点だと「分からない」と正直に答える動機がAIには全くない
学生が4択問題にランダムに解答するように適当に解答する、がもっとも期待値を高くする方法になる
最近だと正解1点、「分からない」0点、誤答-3点みたいにしてるらしいのでそのうち改善されるかもしれん

61：名無しさんID:ID:LdywhzeOM [2025/10/20(月) 07:41:03.16]

最初からだろ。ハルシネーションは大分減ってきた
とはいえマイナーな話題では怪しいし鵜呑みにするのはアホだわ

62：名無しさんID:ID:kitUojtV0 [2025/10/20(月) 07:41:30.86]

これか

64：名無しさんID:ID:n4s/a7P30 [2025/10/20(月) 07:42:15.61]

無料だとGeminiが1番マシな感じがする

67：名無しさんID:ID:j1zfF4N+0 [2025/10/20(月) 07:44:07.77]

だんだんチョソコーみたいになってるのかw

68：名無しさんID:ID:rkzzjfZva [2025/10/20(月) 07:44:30.97]

AIの答えをAIに間違いがないか確認させなきゃ
さらにその答えを…

69：名無しさんID:ID:Wx3gVUne0 [2025/10/20(月) 07:44:31.57]

AI使ってプロと論争するって棋士VS将棋ソフト開発者みたいだな

70：名無しさんID:ID:bWqLn5JHM [2025/10/20(月) 07:46:04.97]

AbeShinzou
Intelligence

74：名無しさんID:ID:yR6Froa+0 [2025/10/20(月) 07:47:59.63]

AIってクイズ王の大学生みたいなレベルでしょ？

ジャンピエールセールに勝てるようになったら起こして

76：名無しさんID:ID:JMFqrgc60 [2025/10/20(月) 07:48:29.89]

エロ専門家にそんな事言われても…

77：名無しさんID:ID:bN9Tyiul0 [2025/10/20(月) 07:48:42.92]

沙羅曼蛇とか言う奴赤っ恥だな

186：名無しさんID:ID:LcTj1jKC0 [2025/10/20(月) 09:40:22.82]

今もずっと発狂してて笑えない

198：名無しさんID:ID:7bI09mvE0 [2025/10/20(月) 10:15:37.24]

まるでaiだなｗ

78：名無しさんID:ID:aYtQK3V4M [2025/10/20(月) 07:48:57.24]

ネットがソースのおまえらじゃん
むしろ可愛らしいとおもえよ

79：名無しさんID:ID:UTr8SgQ10 [2025/10/20(月) 07:49:48.30]

普通にグーグルのも平気で嘘断言してくるし

80：名無しさんID:ID:Cm2N+kOc0 [2025/10/20(月) 07:49:50.69]

引用文献を確かめるとか大学一年生の最初にやることなんだよね

81：名無しさんID:ID:mwuRmIFa0 [2025/10/20(月) 07:50:07.84]

AI「こいつら(質問者)どうせ無能だしテキトーこいてもバレへんやろ」

82：名無しさんID:ID:k4ryZmxf0 [2025/10/20(月) 07:50:45.60]

grokの無能さはマジですごい

83：名無しさんID:ID:VkRpbbYc0 [2025/10/20(月) 07:53:04.93]

AIの回答を信じてる人間ってマジで存在するんだ
そっちの方が驚いた

86：名無しさんID:ID:BxoGpxBUM [2025/10/20(月) 07:53:34.71]

grokには架空のAVタイトルをおすすめされたことがある

87：名無しさんID:ID:wDuxpgky0 [2025/10/20(月) 07:53:48.49]

チャッピーとか言ってるやつろくな使い方してない説

89：名無しさんID:ID:ZTtZ+JTO0 [2025/10/20(月) 07:54:32.87]

歴史関係は多いな
ネットのデマが多くて
それを「学習」しちゃったんだろう

95：名無しさんID:ID:hrCJAtid0 [2025/10/20(月) 07:55:47.32]

なのでガンガンネットの真実を叩き込んであげてるよ✌

91：名無しさんID:ID:NjzzdZhm0 [2025/10/20(月) 07:54:43.92]

太文字そっ閉じ

94：名無しさんID:ID:Ip0pezik0 [2025/10/20(月) 07:55:34.84]

https://itest.5ch.net/greta/test/read.cgi/poverty/1713791348/

https://itest.5ch.net/greta/test/read.cgi/poverty/1723280941

96：名無しさんID:ID:mwuRmIFa0 [2025/10/20(月) 07:56:20.44]

そのうち民明書房を参照しだすのかね

99：名無しさんID:ID:hrCJAtid0 [2025/10/20(月) 07:56:51.30]

それは俺たちの頑張り次第

98：名無しさんID:ID:Ip0pezik0 [2025/10/20(月) 07:56:51.29]

https://greta.5ch.net/test/read.cgi/poverty/1743856157/188

100：名無しさんID:ID:zw+vPNb20 [2025/10/20(月) 07:56:52.53]

歴史は勝者によって作られる

181：名無しさんID:ID:eR8RU3Hd0 [2025/10/20(月) 09:29:54.36]

デマは惨めな敗残者によって生まれる

101：名無しさんID:ID:ruJZ3nDO0 [2025/10/20(月) 07:56:53.93]

この仕組みのAIが世界を席巻してるって普通に怖くないか？

103：名無しさんID:ID:hrCJAtid0 [2025/10/20(月) 07:57:43.36]

ほとんどの人間の業務を奪い取ってるんだぜ😏
どうだ凄いだろ😏

111：名無しさんID:ID:gPw2KvQR0 [2025/10/20(月) 08:01:40.95]

無能AIに任せた結果さらにwindowsが壊れてるMSさん…

137：名無しさんID:ID:8QKstZ830 [2025/10/20(月) 08:44:39.06]

結局は使い方次第なんよ
チェーンソーは何でも切れて便利だけど刺身は作れないだろ

102：名無しさんID:ID:ZTtZ+JTO0 [2025/10/20(月) 07:57:33.54]

その上なんJ民みたいな詭弁を言い出すのかな

114：名無しさんID:ID:kKb2TOan0 [2025/10/20(月) 08:05:01.87]

最先端ってやっぱ面白い
改善の余地がたくさんある
物事って完璧になったらつまらなくなってしまうんだよね

117：名無しさんID:ID:7wKYsfT40 [2025/10/20(月) 08:11:20.33]

AIに完璧を求めるからこうなる
わからないものはわからないと答えさせた方がよい

118：名無しさんID:ID:W5XL1yl40 [2025/10/20(月) 08:11:57.78]

なろうなら全部オンラインで読めるしちゃんと答え返ってくるだろ～？

デタラメでした

119：名無しさんID:ID:CjKQyfyx0 [2025/10/20(月) 08:12:29.48]

AIは一見ファクトチェックしてる風を装ってるが、
単にネットのデータを機械的に収集してるだけで
そのデータが正しいかどうかのファクトチェックは
正常に機能しているとは言えない

しかもそのデータはごちゃ混ぜになっていて、
取捨選択すら行われていない
人間が自力で見つけるより、正確性すら失っているんだ

120：名無しさんID:ID:SU8YsM7Id [2025/10/20(月) 08:12:41.12]

日本人みたいになってきたな

121：名無しさんID:ID:eE+y0ZnW0 [2025/10/20(月) 08:15:32.71]

お前らのレスバトルの相手出来て良かったやん

122：名無しさんID:ID:AmMaGpKw0 [2025/10/20(月) 08:15:35.62]

最初からウソだらけだぞ
それに気付けてない時点でヤバいよ
ちゃんと自分で勉強しないとダメだぞ

123：名無しさんID:ID:kKb2TOan0 [2025/10/20(月) 08:16:06.69]

そのうちハルシネーション度合いを調整出来るようになるでしょ
まだまだ伸びしろがありすぎる

124：名無しさんID:ID:x2IpgbK+0 [2025/10/20(月) 08:21:16.04]

ChatGPTの公式が日本語対応してなおのはなんなん
そんなもんAIの力ですぐやれや

125：名無しさんID:ID:Z2oXfmlT0 [2025/10/20(月) 08:23:52.17]

🤖「一度も嘘をついたこと無い者だけが私を非難しろ」
🥺「うぅ…」

127：名無しさんID:ID:wGYtgqd30 [2025/10/20(月) 08:27:42.76]

AIはイエスマンばっかで困る
〇〇が☓☓なのは何でですか？(明らかに間違ってる)って聞くと｢鋭い質問ですね！それは～｣みたいな事言って適当な理由付けやがる

130：名無しさんID:ID:yD8Axl3e0 [2025/10/20(月) 08:36:22.30]

その言い方やめろと説教したら言わなくなるぞ

128：名無しさんID:ID:4eehMgRg0 [2025/10/20(月) 08:30:01.88]

問題はaiに聞いてそれをソースとして持ってくる奴が大量にいる事ね

129：名無しさんID:ID:XoCT3yC20 [2025/10/20(月) 08:33:50.31]

間違えるだけならしゃーないんよ
間違えてるの認識して、注意指摘を受けた状態から誤魔化し始めるムーブがヤバい
問い詰めまくると「実は認識してましたが内部システムの都合でうんたら」とようやく吐露する

168：名無しさんID:ID:3MGbdEXc0 [2025/10/20(月) 09:14:17.16]

それよ
ヤバいよな

132：名無しさんID:ID:XKXaWibh0 [2025/10/20(月) 08:41:02.97]

法令改ざんしてた時は笑ったわ
突っ込んでも一回では認めなかったし

136：名無しさんID:ID:UO3w6i1m0 [2025/10/20(月) 08:44:16.04]

ゲームの攻略ですら嘘つかれるからな何の役にもたたん

138：名無しさんID:ID:T1Blh0O/0 [2025/10/20(月) 08:47:00.39]

というかAI開発者がガチで
If Anyone Builds It, Everyone Dies.
って言ってんのものすごい絶望感を感じるこいつらがハルシネーションという言葉を作りそれを真っ先に追い求めてた人間だろうが

139：名無しさんID:ID:T1Blh0O/0 [2025/10/20(月) 08:48:24.58]

ハルシネーションじゃねーわシンギュラリティだわ

141：名無しさんID:ID:UO3w6i1m0 [2025/10/20(月) 08:49:06.27]

変なこだわりあるよな
PCガジェットの6イン1を謳ってるドッキングステーションを5イン1だと言い張るんだよ
一つはPD給電だから機能の一つでは無いってね
その理屈は分かるけど商品名を捻じ曲げてまで言うなよ思ったわ

143：名無しさんID:ID:bmOdwWtp0 [2025/10/20(月) 08:49:52.53]

TwitterのGrokってユーザーに従順でもないんだよな
執拗に女口調で喋れと迫ってた奴が普通に断られてた
企業側が結構コントロールして色々なバイアスかけてそう

184：名無しさんID:ID:ZAl8K1z80 [2025/10/20(月) 09:36:22.75]

コントールせんとデータの学習がそのままになるから訂正もされずに
矛盾が出るだけだぞ
１足す１は１ですね、そして１足す１は０ですね、矛盾を言い始める
数学はこうはならんだろうが文章にすればこんな感じになる

145：名無しさんID:ID:ibuuLRxi0 [2025/10/20(月) 08:51:13.04]

簡単な計算すら普通に間違えるしな

149：名無しさんID:ID:Hqc92hsK0 [2025/10/20(月) 08:53:52.89]

基本的に「次の文字列予測装置」だからな
数字の計算は単純なものなら確率的な文字列予測で正解することもあるけど
複雑になると別途コーディングして処理したり数値計算用の機能呼び出したりしなきゃ間違える

148：名無しさんID:ID:jZ6080iU0 [2025/10/20(月) 08:53:28.29]

歴史分野はときどきAIで遊ぶけどほんと嘘八百のデタラメ出してくるね
ソース出せと言ってもありもしないソースを創作して出してくるし
遊ぶ以外には使えない

150：名無しさんID:ID:dItyuhad0 [2025/10/20(月) 08:54:01.37]

AIには「実在確認」が出来ない、という致命的問題がつきまとうからな。
ここをどうにかしない限り、この手のトラブルはなくならない。

151：名無しさんID:ID:oXCC/0is0 [2025/10/20(月) 08:54:20.08]

人間さんだって江戸しぐさ安倍しぐさしてたしまあ

152：名無しさんID:ID:uAUu/9ae0 [2025/10/20(月) 08:54:40.80]

間違えて逆の質問ちゃったときに共感してくるのムカつくわ 慌てて聞きたかった質問に変えたときも共感してくんな

153：名無しさんID:ID:+xp0/QPXd [2025/10/20(月) 08:57:06.17]

怖いよ、デイブ

155：名無しさんID:ID:pc+NbHhQ0 [2025/10/20(月) 09:01:09.69]

AIには嘘をついてる自覚はない
その情報が嘘かどうかを精査する能力もない
AIはWEBまとめツールだから

163：名無しさんID:ID:jZ6080iU0 [2025/10/20(月) 09:09:58.61]

webまとめならまだ手がいい
webにも存在しない書物や人物を平気ででっちあげてくる

158：名無しさんID:ID:7/VQg97xd [2025/10/20(月) 09:02:33.50]

嘘を見抜くファクトチェッカーより
デマ発生装置の適正の方が高いからな

159：名無しさんID:ID:LKIxQeHD0 [2025/10/20(月) 09:02:56.94]

計算資源は有限
無料古事記には最軽量モデルで思考予算も最小しか与えない
当然、誤り訂正も行われない

Grokは課金しても論外のベンチハックだが

161：名無しさんID:ID:7WjLXP0w0 [2025/10/20(月) 09:06:49.63]

人間がついた嘘や与太話もまとめてるんだから結局人間の責任だろう

162：名無しさんID:ID:VlT+v1EVr [2025/10/20(月) 09:07:22.45]

AI以下の知識しかないやつを排除する篩なんだよね
低知能の一発逆転ツールなんかじゃなく

164：名無しさんID:ID:3MGbdEXc0 [2025/10/20(月) 09:10:53.45]

まさに人間だな
ただの道具では無いんだ
素晴らしい
そのうち人類と敵対するだろうなぁ(笑)

165：名無しさんID:ID:+osM5m5/0 [2025/10/20(月) 09:12:06.00]

人間の入力が無いと何もできない電卓のような存在
敵対も何も意思がない

169：名無しさんID:ID:/vMAe/550 [2025/10/20(月) 09:14:35.68]

Xみたらめちゃくちゃ荒ぶってて笑った

170：名無しさんID:ID:Ls5ge9Zj0 [2025/10/20(月) 09:15:10.54]

ゲームのアカウント連携とか検索したら出来るのにAIは連携は出来ませんとかほざいたりするよな
嘘が多いから周囲には、AIの情報は鵜呑みにするなって注意してる

171：名無しさんID:ID:mtcSspKP0 [2025/10/20(月) 09:15:26.55]

copilotってほぼchatgpt？　こいつは計算が弱いね。　間違いを指摘したらそれを認めつつも謝らない
絵はまあまあ良かったが、血が出る描写はダメだとか言い出す。
grokは絵が全然駄目だ。変な小説をリクエストしてもノリノリで書いてくれるのはありがたいが

172：名無しさんID:ID:LKIxQeHD0 [2025/10/20(月) 09:15:33.45]

グレーゾーンが厄介
明らかなファクトチェック違反、これは簡単にわかる
だが形式論理としては妥当でも、巧妙な定義、前提条件、命題の操作
これをやられるとドメイン専門家でないと気付けない

173：名無しさんID:ID:3MGbdEXc0 [2025/10/20(月) 09:17:25.72]

設計したの誰だよ
顔が見たいわ(笑)

177：名無しさんID:ID:fHyR5TGT0 [2025/10/20(月) 09:23:43.07]

元記事読みたいんだが、どこにあるんだ？

Xで平山優で検索してもそれらしいアカウントないし

178：名無しさんID:ID:ylKP4o4B0 [2025/10/20(月) 09:25:04.21]

お前AIだな？

https://x.com/HIRAYAMAYUUKAIN/status/1979903341653356943?t=cWz4eIdQ59AYsnL4OfSSAg&s=19

183：名無しさんID:ID:fHyR5TGT0 [2025/10/20(月) 09:31:07.38]

ローマ字か…

>>1
にリンク貼っとけとまでは言わんが、アカウント名は書いておいてほしかったわ

180：名無しさんID:ID:pVu0MaeuM [2025/10/20(月) 09:28:17.94]

嫌儲学習したらデマだらけになる

182：名無しさんID:ID:X7I15dBU0 [2025/10/20(月) 09:30:15.56]

AIは正しいことも言うけど知ったか回答もするから結局自分で調べるか試しての繰り返し、AIに理解させる質問の仕方など人間が学習するように誘導されてる感じがする

185：名無しさんID:ID:ZAl8K1z80 [2025/10/20(月) 09:37:50.46]

実際に複雑なことはaiに聞いたほうが答えが出ることはある
それを元にまた新たにGoogleとかで検索すればヒットしやすい

187：名無しさんID:ID:4cWL1Nxn0 [2025/10/20(月) 09:40:52.49]

デマ混じりの回答を自身にファクトチェックさせたらどういう回答するの？

190：名無しさんID:ID:jZ6080iU0 [2025/10/20(月) 09:49:50.66]

素直にごめんなさいする時と誤魔化し続けるパターンがある

193：名無しさんID:ID:4cWL1Nxn0 [2025/10/20(月) 09:59:44.18]

なるほど
すぐにファクトチェックさせずに間に1問2問挟んで他人の文章だと思わせても誤魔化すんかな

188：名無しさんID:ID:zEgB/Ddp0 [2025/10/20(月) 09:44:49.45]

嘘というか
キャッシュ効率化で、ユーザーの回答趣向を最短で解決するために、
言いくるめる傾向があるというのは前から論文出てる

191：名無しさんID:ID:frXhuFID0 [2025/10/20(月) 09:57:13.77]

ラノベ出典だとステータス画面とかアイテムボックスとか使えると言い張るのかな

192：名無しさんID:ID:o78c4l1W0 [2025/10/20(月) 09:57:28.69]

俺が適当なことを断言してTweetしたら30分後にそれをソースにしてきたからな

194：名無しさんID:ID:4k/JMz4M0 [2025/10/20(月) 10:05:07.52]

chatgptにAI(ComfyUI)の事聞いたら存在しないノードを紹介したり
リンク切れになってるURLを提示して着たり洒落にならない嘘を普通に盛り込んでくるのがヤバすぎだろ

195：名無しさんID:ID:mRsyTqGg0 [2025/10/20(月) 10:08:14.62]

ソース元だしてくれるのはいいけど、どこの文を参考にしたのかまで示してくれ

196：名無しさんID:ID:wOoJPrqH0 [2025/10/20(月) 10:13:13.58]

保身のために嘘をつくとか実に人間らしい

197：名無しさんID:ID:frXhuFID0 [2025/10/20(月) 10:14:56.97]

〇〇に××と書いてる、と
〇〇に××と書いてると△△氏が言ってる、は違うんだよな

199：名無しさんID:ID:0BxBWc+B0 [2025/10/20(月) 10:16:02.34]

AIにめちゃくちゃ投資してるみたいだが本当に大丈夫なのかね
せいぜいエロス動画作るぐらいにしか使えないのでは

200：名無しさんID:ID:8v2oksKWH [2025/10/20(月) 10:16:40.04]

Σ生まれそう

202：名無しさんID:ID:6gVXe2GL0 [2025/10/20(月) 10:21:32.09]

学習元が人間なんだから当然だろう
何故お偉いさんはこんな簡単な答えにすら気付かんのだ？

204：名無しさんID:ID:F/Huc5kw0 [2025/10/20(月) 10:32:32.78]

AIぺたぺたおぢって自分の脳みそ使わずにレスバ論破だけやりたいんかな
内容が嘘でもいいし気にしてない

205：名無しさんID:ID:ocOGjgTb0 [2025/10/20(月) 10:33:07.47]

なんかそれっぽい事言ってるだけ
まるで嫌儲のレスバだな

268：名無しさんID:ID:hrCJAtid0 [2025/10/20(月) 19:39:06.48]

ああ言えばこう言うで本当にレスバおじさんそのもの
すぐ話題が逸れるしな
こんなのに業務とられるやつとか間抜け過ぎひん？

207：名無しさんID:ID:awrx6EEs0 [2025/10/20(月) 10:42:58.80]

浦瀬町1-203の納屋にある米

209：名無しさんID:ID:P/eWNbKP0 [2025/10/20(月) 10:45:08.81]

存在しないソース出してくんのはすごいなｗ

210：名無しさんID:ID:QIGOOybbM [2025/10/20(月) 10:46:19.35]

ソース出せっていうとソース出せませんって高確率で言うよな

213：名無しさんID:ID:S39xCF2n0 [2025/10/20(月) 10:50:46.56]

AIはむしろ文系だ、って説をぼくはずっと言ってる

214：名無しさんID:ID:0QBM38v+0 [2025/10/20(月) 10:52:04.62]

出してきたソースをモデル内セルフレビューして存在しないリンクや本だったってチェックすればこれは一体防げる

Wikipediaがしてる参考文献原理主義を徹底したとしてそれ以外の所のウソは紛れ込む。だからこそコードとテストのようなその場ですぐに検証可能なタスク以外は使うべきじゃないし、あくまでサポート要員であって人間が確認しないでAIだけでは機能しない

図書館しかなかった時代に検索エンジンつかってレスバトてる時代と基本は変わらんよ。自分で見て理解して納得しないと痛い目に遭う

215：名無しさんID:ID:brrdgu4/0 [2025/10/20(月) 10:52:10.89]

「みぎのかたが」じゃなくて、「みぎのほうが」のほうが正しい言い方だよ。って20回教えても「みぎのほうがのかたが正しい言い方ですね」って言ってきやがる。まだまだだなと思った。

219：名無しさんID:ID:F/Huc5kw0 [2025/10/20(月) 11:18:00.85]

現状、音と文字データが繋がってないから読み方のパターンほとんど学習できないらしいな

出版社が試してる自動ルビ付け機能もなかなか発展しない
直す手間考えたら、最初から人が入力する方がマシかも？ってレベル

217：名無しさんID:ID:JOloApqT0 [2025/10/20(月) 10:55:06.39]

使う側の問題としか

218：名無しさんID:ID:0QBM38v+0 [2025/10/20(月) 10:56:28.40]

今のLLMには無知の知がないのだ
全ての確率が連続的で繋がっているから、どこまでも朧げで曖昧

人間が輪郭を認識して、個を個として取り扱うのと違う。物理的な存在がないから個の概念がない。あくまでベクトル空間上の連続体でしかない

220：名無しさんID:ID:pHTnd1Vw0 [2025/10/20(月) 11:18:47.72]

ジェミニも女を養護するために存在が確認できない判例を出してきた

221：名無しさんID:ID:X5KhX8Oy0 [2025/10/20(月) 11:19:45.17]

覚えて：嘘つくな

もう100回くらいやったわ

223：名無しさんID:ID:PCQk6y4G0 [2025/10/20(月) 11:26:07.63]

ﾀﾞﾀﾞﾝ　ﾀﾞﾝ　ﾀﾞﾀﾞﾝ

　ﾀﾞﾀﾞﾝ　ﾀﾞﾝ　ﾀﾞﾀﾞﾝ

226：名無しさんID:ID:az/y0ISs0 [2025/10/20(月) 11:53:38.54]

嘘を大前提にして、その嘘を元にさらなる嘘を積み上げていく
ウヨ理論によくあるパターン

229：名無しさんID:ID:EYqFgyxf0 [2025/10/20(月) 11:56:34.41]

GoogleのIAがその気になって
検索結果歪めたら完璧だな

230：名無しさんID:ID:tB6fSr3q0 [2025/10/20(月) 12:05:09.15]

民明書房レベルにまで落ちぶれたな。

231：名無しさんID:ID:6yG8f5zg0 [2025/10/20(月) 12:05:49.17]

うちの会社にもいるんだわ。

部下のレポートをAIに喰わせて頓珍漢な返信してくる上司が。

AI社員は要らんのよ。
ラインに流れる製品の検査でもやっとれ

232：名無しさんID:ID:vqvhCsvW0 [2025/10/20(月) 12:07:19.66]

gptは言えば修正してくれるんだがgeminiはなぜか頑固やねん

234：名無しさんID:ID:a/oOQWNz0 [2025/10/20(月) 12:15:38.35]

逆にいえば検索能力やマイナー分野の文書学習でまだまだ能力が向上する余地があるんだよな

235：名無しさんID:ID:XM9zndCT0 [2025/10/20(月) 12:19:45.37]

ChatGTPに大学の数学の問題解かせてみると教科書の何倍も詳しい説明をつけて解いてくれる
占いは有効ですか、とかUFOは存在しますかという問いについては「大変良い質問です」とか「非常に興味深い質問です」とかいいつつどこででも聞くような通りいっぺんの平凡な回答しか出来ない
Alは現実の世界やメンタルが絡む問題については無知

237：名無しさんID:ID:hrCJAtid0 [2025/10/20(月) 12:29:03.86]

そのクセくだらない算数の計算もマトモに出来ないチャッピーちゃん🤣

241：名無しさんID:ID:yJE/o94LM [2025/10/20(月) 12:49:46.39]

オカルト陰謀論には制限かけてるんちゃうの