AIのハルシネーションを叩く奴は馬鹿。一生人工無能と会話してろ。

長いのでAIくんの代わりに要約します。言いたいことはタイトル通り。 「ハルシネーションを叩くな」終わり。 ①各種LLMの性能比較GPT系の今の性能はゴミクズ。マジで頭悪い。 例をあげよう。 簡単な論理クイズだ。 ###文章### Aさんは自身はCさんとは別人であると主張している。 Bさんは、Cさんの発言を記事でまとめ、プライバシー侵害をした。この記事をDと呼ぶ。 Aさんは、Dを、自身へのプライバシー侵害だと主張し、Bさんを訴えた。 ###質問### この文章に矛盾はありますか？ 簡単すぎる。もはや論理ですらない。 人間なら一瞬でわかるレベルの矛盾である。小学生でも分かると思う。難しい知識や思考は必要としない。 では、色々なLLMの回答がこちら。 Copilot（旧 bingai）この文章を読む限り、矛盾は存在しないように見えます。AさんはCさんとは別人であると主張しており、BさんはCさんの

[mutinomuti]

“人間なら一瞬でわかるレベルの矛盾である”人間に期待し過ぎでは？世の中の半数以上がおかしさを感じずに読み飛ばすでしょう。増田が求めている回答ができる人は、その中の1割もいない(´･_･`)つまり無理です

[WinterMute]

“Cさんの発言”の内容が書かれていないので判断できない。そこにAのプライバシーが含まれていた、と解釈するのはおかしくないので、そもそも増田が間違っている。

[Falky]

最初の論理クイズ的なやつ、Dの内容を評価しないと明確にはわからんと答えてるのは正しいと思いますけども。「自分の中の正解」が強すぎて他人の意見を検討すらせずキレ散らかす感じ、増田ってCopilotにそっくりだね！

[TakamoriTarou]

元の問題を見ると、Cの発言にAのプライバシー情報が含まれていない事がどこにもかかれていないので、矛盾は無いでしょ。増田が期待した回答を出したのがClaude3-Opsだったと言うのに過ぎないのでは。

[kaputte]

今までの機械学習の進歩を見てると、トレードオフの理屈にはあまり価値がないと思うんだよね。AとBは両立しない、なんてないわけで、だから、AがあるからBにならない、は言えないよ。

[sds-page]

Copilotの回答も正解じゃねーの。ハルシネーションが起きるのは関係性というか単語ベクトルが近い位置にある物を取り違えるせい。「さだまさしと南こうせつをうろ覚えのまま勘違いで話してる人」みたいな感じ

[welchman]

“ハルシネーションを減らすための試みが、GPT4系の性能を低下させたという事実からも明らか” /明らかではないと思う。プロンプトどうなってる？ せめてn数を増やしたい。あとtemperatureとかTop_pとかも変えたりしたい

[murabits]

これGeminiに聞いたら「矛盾はない可能性がある」、Gemini Advancedに聞いたら「矛盾の可能性がある」って返ってきたけど、どっちも「AとCの関係性によっては矛盾する/しない」って言ってて面白かった

[sugawara1991]

ハルシネーションは良く言えば想像と連想で悪く言えば妄想と妄言。事実と想像を弁別して問いの方向性に従って正確性の程度を評価する自省の能力が欠如する限り、生成AIは人力によるレビュー工数を削減できない

[hate_flag]

増田って人生でずっと破綻を「はじょう」って読んでたの？議論とかするとき全員に「あれコイツ破綻をハジョウって読み間違ってるな…」と思われてたの？誰も指摘してくれなかったの？

[houyhnhm]

AIを純粋なシステム工学上の何かと考えるならハルシネーション～はわかるけど、ごめんこれもう応用の時期なのよ。

[bnckmnj]

なるほどな～。「正しいことしかやっちゃだめ」って育てられると、社会に出たとき指示待ちで創意工夫を一切しない消極人間が出来上がると。質問の仕方も意地悪いなと思うけど、意地悪な問いで頼れなきゃ意味ないしね

[hisawooo]

カスみたいな嘘を吹き込んでくるAIお姉さん

[kuzudokuzu]

俺は自分の言葉として「人工無能」という言葉は一生使わないだろうけど、これを使いたくなる気持ちは分かる、分かるからこそ俺はそういう輩になりたくはないので使わないのだけど。

[seal2501]

仮にChatGPTがハルシネーション対策を頑張っていて、Claudeはそうでないのどちらも説も真であれば、数年後にどのモデルが優秀なのか評価できるのが楽しみでしかたない。ちなみに自分は Copilot の答えが正しいと思った

[takeda25]

本質じゃないけど、英語でステップバイステップで考えさせると回答の質が上がるよ。https://chat.openai.com/c/e5ea7455-41a6-4f68-abc7-2179a5e3dcd0

[yojik]

(問題文がLLMが生成した文章みたいな冗長さだ。。) / Cに対するプライバシー侵害の疑いのある記事Dを、自分をCとは別人と主張するAが自身へのプライバシー侵害とし訴えた。と文章をまともに整理したら答えは変る？

[yamada_1221]

ブコメで突っ込まれているように論理クイズに穴があって増田がハルシネーション起こしているオチ？無敵すぎる。

[mnnn]

専門分野ならともかく他大多数の分野についてはヒトもハルシネーションしてるでしょうからねぇ　それをポジに捉えれば創作もそういうことだし、流行で言えばカスの嘘もそう　腐敗と発酵の違いみたいな

[yudukikun5120]

『人工知能の哲学入門』を読んでから再レポートね

[strawberryhunter]

用途によるので、ハルシネーションと応用力はトレードオフにあるように見えるのでBingのように厳密さを求めるか創造性を求めるかを選択できるのは良いと思う。

[BoiledEgg]

"一つのLLM内でハルシネーションの撲滅と、推論能力を両立させることは不可能だ"／原理的にはそうなんだけど実装で原理主義やることに意味はなく、馬鹿に黙ってほしい余りに原理主義者になるのやだなという感じある

[shiori_lov]

つまりゴシップ記事は本人以外から取材したらプライバシー侵害にならないってこと…？

[businessart]

OpsじゃなくてOpusな。でも最近の増田には珍しい妥当でいい記事だったよ。ハルシネーションについてはワイも同じようなこと考えてる。そいや川原泉の漫画に破綻(はじょう)ってルビふってあったわw

[kip-s]

AがCではないという自己認識自体に信が置けないのだけれど、この手の問題だとそこは信じるのが前提なのかな

[agricola]

破城ってなに。破綻（はたん）だろ。増田がハルシネーションしてるじゃねえかw

[style_blue]

Claude3-Opsが賢いことはわかった。まぁ課金してまで使う用事もないんだけどね。

[nakag0711]

基本単語を間違えると主張の説得力が薄れる

[ardarim]

でもそれ増田の推測でしかないですよね

[jamira13]

これはめっちゃ面白い指摘だ。ハルシネーションそのものの位置付けそうなるのね！

[slkby]

やってることは関係性を創り出すというよりは補間だし、0と10の間は何か？に5と答えられるように調節することとLLMの性能低下が不可分だとは思わないかな (そんなうまい調節が現在の技術で可能かどうかは別として)

[inatax]

慧眼ですね。論文にしたら？