大規模言語モデルはこれ以上賢くならず庶民的になっていく - きしだのHatena

ChatGPTはめちゃくちゃ賢いんだけど、変な間違いをするし話が通じないこともあります。 ここで「もっと賢くなったら数年後には・・・」のように思ってしまいがちなのだけど、GPT4より目に見えて賢くするのは難しい気がします。 むしろ、人間くさくなったり使いやすくなったりするんじゃないだろうか。 ChatGPTなどの言語AIの中核になる大規模言語モデルは、多くのテキストを学習することで言葉や論理について学習しています。 ただ、そのための教師データになるテキストが枯渇するのではないかという話があります。 MIT Tech Review: 大規模言語AIにアキレス腱、訓練用データが2026年にも枯渇か いまChatGPTの賢さで問題になるのは、論理の誤りや情報の間違いです。 論理構造が難しくなり思考手順の分解が必要になると間違いやすくなるように思います。 ニューラルネットの論理推論は、雑にいうと計

[Midas]

平たくいうとAlが進化するとあの松本人志さん大ベストセラー「遺書(事実誤認はないが向上心のない偏差値50のバカが人間臭い説教をかましてるだけ」みたいになってく(AIによって仕事を失う職業No.1「吉本芸人」

[zyzy]

この辺になってくるともうどういうチューンが流行るか、みたいな段階ではあるよな。

[rgfx]

via:"LLMが進化すると情緒を獲得するみたいな話を以前 kis さんか誰かがしてた気がしますが、味わいのある短編小説を Claude-3 Opusが作れるようになったことで当たってたのではと。 " https://twitter.com/kmizu/status/1765182561515692275

[longyang]

自己保存本能のようなものが実装されると、賢すぎることで淘汰されるリスクを考慮して振る舞うようになるのかな。この妄想がSFではなくなりつつあるところが痺れる。

[nilab]

“高度に発達した人工知能はアメちゃんを配りだす”