ChatGPTが嘘つくのって割と問題なのでは

専門的なことを聞いた時に信用がないと信じられなくなるじゃん？ 曖昧でもいいから嘘を排除しないと ＿＿ 相手が人間だとしてもその人が本当のことを言ってるかわからないじゃん？ それを信じられるかどうかってあくまで信用・信頼なんだよね

[Tamemaru]

ちげーよ。ネットの検索結果と同じように、利用する側が嘘を見抜く知識を身につけるべきなんだよ。知識がない奴は「この改良したAIは嘘をつきませんよ」と言われても本当かどうか判断できないだろ。

[Fuggi]

ChatGPTの嘘ってなんなんだろう。意図的に質問者を騙そうとしてる訳じゃないから「嘘」ではなくて、「学習誤り（勘違い）」を自信ありげに披露してるだけだと思うけど、なら「自信ないので無回答」を許せば解決する？

[snowcrush]

ChatGPTが質問に正答を返すツールだと思っているのは大きな誤解なんだけど皆なんで勘違いするんだろうな。あれは文章を生成するツール。匿名ダイアリーと同じでいちいち真偽判定したってしょうがない。

[Lagenaria]

AIの吐き出した文章をファクトチェックするAIが必要だ

[knosa]

出典を出させれば良いかと思ったけどその出典すらもAIが生成している可能性が出てくるのでもう詰みかもしれん

[ustam]

Bardがちょっと間違えただけで株価急落したのが理不尽なくらいにはGPTは間違いだらけよな…。

[zeromoon0]

普通にあることないこと言うから「お前ふざけてんの？」と聞いたら「不快に思うような発言があったらすみません」と炎上して謝罪失敗した政治家みたいな謝罪文出された。

[behuckleberry02]

嘘を嘘と見抜けない人は使っちゃ駄目なんだろな。ああいうAIって詰まるところネット上の情報をミキサーにかけて絞ったものだから、中身はネットと同じものなのよね。

[daichirata]

嘘つかれても良い、選択肢からこちらが判断するみたいな質問に使うと良いよね。めちゃくちゃ助かってる。

[sysjojo]

集合知で解決するなら、chatGPTに得意分野持たせて複数のインスタンスの合議制にしたら…ってなんか聞いたことあるな。○AGIとかいうやつ。

[kamm]

なぜ嘘をつくとわかっているのに全面的に信用するんだろう…

[T-norf]

この子（技術）は、まだ3歳ぐらいなのよ。それで、できないことや現時点で間違えることろに着目するか、できることに着目して将来を考えるかが、人によって評価が大きく異なるところの根っこにあると思う。

[htnmiki]

私も嘘つくので問題ない

[samasan-tabasan]

今は気軽に使えるAIがChatGPTしかないけど、googleさんやら他の会社やらそのうちバンバン増えるだろうから、セカンド／サード・オピニオン聞きに行けばより信憑性も高まるやろw

[buhoho]

こいつはちゃんと謝れるから良い。Bingのほうがまずい。検索までしておいて嘘はアカンし、指摘すると誤りもせずに会話終了

[ichiken7]

自分でも時間を掛ければ答えがわかるようなことを時短の為に聞くってのが一番良い使い方の気がする。今のところ。

[dodewata]

確実に真偽の確かめられることを質問して、どれだけ真っ赤な嘘をついてくるか楽しんだりしてる。先日面白かったのはヤマハの社名の由来。毎回違う由来を出してきて、こじつけが過ぎるのとかあって面白かった。

[misshiki]

ChatGPTを絶対的な正解を答えるものと捉えない、いつも疑う気持ちが大事なのではないかな。ネット情報も100％信用できなくて何個かリソースに当たるよね。そういう意味では辞書的に使うならネット情報の一つ。

[grankoyan2]

ウソつき教祖とかインフルエンサーとかだと一旦取り込まれたら終わりだけど、AIさんなら騙されてたのかってちゃんと気づいて……とわならない人が出てきそうで怖いな……

[nowww]

嘘を見抜けないなら、書いた人がAIでも人間でも変わらない。むしろ、人間は儲けるために意図的に嘘をつく。

[hatest]

「曖昧でもいいから嘘を排除しないと」←曖昧に嘘を排除するって、完全には排除しないってこと？意味ある？それとも曖昧な口調にして嘘ついてる雰囲気を醸し出せばいいってこと？

[potnips]

BingのAIチャットは使ってみた？

[osugi828]

信用できない情報を評価するってのはちょっと前だとWELQってのがあってだな。Googleも信じて、上位表示されているから人間も信じてこういうのは不変。正しいことを信じるんじゃなくて正しそうな表現を信じる生き物よ。

[tonkotutarou]

むしろ嘘は信頼がないと成立しない気がする。

[cartman0]

専門性高い奴作って多数決取ればいいだけだから割りとどうとでもなりそう。アンサンブル的なやつはいけるはず

[myogab]

いきなり「カンペキ」なAIがリリースされる事に比して、「ウソツキ」なAIの存在は、人類にとって良い経験だと思うけどね。

[takeishi]

まあ嘘をチェックするAIはすぐ開発されるんじゃね

[chikisio]

Wikipediaも当時はそんな感じだったし、割と問題じゃないと思うんだよなー。この手の指摘に、正解を吐く機械が既にあるという幻想にいるだけでは。

[gatzby]

なんであれ人間よりマシなんだよ

[masahiko_of_joytoy]

LangChainの発達で今よりは精度が上がるんだろうけど、最終的にはページランクみたいな信用度スコアが付くんだろうなと思ってる

[abababababababa]

答え出てるやん。結局信頼の問題だし、知識に関しては特に信頼値最初から低いのだから、そのつもりで使う、で完では。そこは期待してるのは、魔法期待してる感じがしちゃう。

[quwachy]

教科書にも普通に嘘載ってるからねえ、嘘をつかないのは数学だけ。科学はどこまで行っても近似でしかない、社会はその時の権力者に都合のいいように書き換えられる。

[pero_0104]

何が問題なんだ？正しい情報を出力するためのものでは無いだろうし…。今日も計算間違ってたから指摘したら謝って計算し直してくれたよ

[strawberryhunter]

自分の専門分野なら出力の間違いは何となく察知できるので問題は少ない。出力の正しさの検証はAIを作っている人たちの当面の課題だと思う。現時点は人間が検証すればいい。

[torajan]

「ごんぎつね」「車輪の下」などについて聞いてみるととても面白い。（ごんぎつねが宮沢賢治の作品で少女との友情物語だと初めて知りました。車輪の下も日本の物語だったんですね。chatGPTありがとう！）

[tnkmr0801]

今、ChatGPTに対して批判的な意見の筆頭が、「しれっと嘘つくから使えない」ってものだけど、あっという間に解決される問題だと思う。かつてはデジカメだって「こんなのオモチャだ」とか散々言われていた。

[take-it]

ウィキペディアと同じだと思うんだけど、ウィキペと違って修正がし辛いのがなぁ。