ハルシネーションの根絶は無理筋、ファインチューニングへの過度な期待も禁物

生成AI（人工知能）を業務活用する際に、ユーザー企業がつまずきがちなポイントを指摘する本特集。第2回は「ハルシネーションをなくすのは難しい」「生成AIを業務自動化に活用するのは難しい」「ファインチューニングは難しすぎる」の3つを取り上げよう。 その4： ハルシネーションをなくすのは難しい 生成AIが抱える課題として最も広く認識されているのはハルシネーション（幻覚）だろう。生成AIがもっともらしい嘘を回答する問題だ。しかし「ハルシネーションをなくすのは難しい」。それが第4のポイントだ。 まず「ハルシネーションを根絶しない限り、生成AIは業務で活用できない」と考えること自体が、生成AIの業務活用を難しくするということを明言しておこう。「ハルシネーションは完全な悪ではない。今の生成AIは前提としてハルシネーションが発生してしまう。しかしユーザーが生成AIの出力を咀嚼（そしゃく）して利用するなら、

[secseek]

既存と全然違うものなのだから使い方も切り替える必要があると思うのですがなかなかそれができず既存のものに当てはめようとしてできないと呻いているというのをちょいちょい見かけますね

[misshiki]

“ユーザーが生成AIの出力を咀嚼（そしゃく）して利用するなら、ハルシネーションは大きな問題にはならない”

[cinefuk]

"事前に「生成AIの出力には誤りが含まれる」とよく告知し、生成AIの出力をうのみにしないようユーザーが注意すれば大きなトラブルを回避できるからだ。一方、出力をそのまま顧客に提供するような使い方においては"

[kotaponx]

息をするように嘘を吐くヒトもいるし。

[dgwingtong]

創造性とハルシネーション、これを取り除けばAIは従来の知識集約DBと変わらなくなってしまうのかな