ChatGPTのヤバさは、論理処理が必要と思ったことが確率処理でできるとわかったこと - きしだのHatena

ChatGPTのヤバいところは、論理処理が必要だと思っていたことが、じつは多数のデータを学習させた確率処理で解決可能だと示したことだと思います。 たとえば、このように正規表現にマッチする文字列を生成するには、特別に専用の論理処理が必要だと思っていました。 前のブログのときには特殊処理が必要だと考えてましたね。 ウソはウソと見抜ける人じゃないとChatGPTを使うのは難しい - きしだのHatena けど、123_45678world.mdはマッチするのにマッチしないと言っているので、そのような誤りが入ることを考えると、どうも確率処理だけでやっているようです。 考えてみると、3層以上のニューラルネットであれば論理素子を再現できるので、ディープラーニングで論理処理を模倣することは可能なんですよね。 バックプロパゲーションでニューラルネットの学習 - きしだのHatena そもそも論理は、多数の

[ton-boo]

たまに（けっこう）適当な答えを返すChatGPTの受け答え見てると、不知を自覚するってのはなかなか難しいことなのかなあと思う

[mazmot]

おもろい。翻訳は論理じゃなくて出現頻度だと40年前に直観的に思ったことが実証されつつあるのかも。

[yarumato]

“ChatGPTをはじめディープラーニングでの処理は、大脳辺縁系での処理（意識的な熟考をせず、素早く実行する）を模したもので、だいたい正しそうで、よくみると間違っている答えを出してくるのだ”

[akanama]

論理処理が必要なところを確率処理してしまう（そして大半は問題が起こらない）、というのはベテラン作業者が勘と経験でこなす仕事と似ている気がする。

[kisiritooru]

有意義に研究してて偉いと思った。オレなんか「不快感を与えるバズるレシピ名を教えてください」って聞いて「人体に有害なものを含む、超毒のスープが大人気！危険すぎるレシピ」とかやって遊んでるだけ。

[frantic87]

人間の直感みたいなもんか。引っかけ問題に弱そう

[igni3]

タイトルに反して記事の結論は、最終的には論理処理が必要、になってませんか。

[odz]

少なくとも15年くらい前には確率モデルによる自然言語処理というのは割と普通だったので、書いていること自体は何を今更、という感じではある。

[jiro68]

確かに人間も学校で習うような事柄はともかく、それ以外の事柄はパターンマッチングで処理していることが多いように思うので、そのレベルの正解率で良ければ確率処理で良いのだろう。それでは困る事は別の方法が必要

[gyochan]

おじさんがバットとボールの正しい値段で少し考え込んだことはここだけのひみつだぞ。

[teruyastar]

論理ではなく、経験に基づく損得感情としたらより人間の処理みたいだな

[egamiday2009]

“論理というのはデータがなくても導けるというものなので、データがあるなら当然に導けるという話でもある。”

[kei_1010]

カワンゴが匿名で書いてるのかと思った。量子コンピュータを組み込まないとAGIは無理だろうなって俺も思ってる。

[triggerhappysundaymorning]

と、勘違いする人が増えそう、てのがヤバさでは？実際に確率処理ではクリティカルに間違えたりするっしょ

[pmint]

学生はそうやってテスト問題を解いている。AIを論じるのは人間を論じるのと同じ。この先、AIの話で倫理観がバレる人も出てきそう。

[Sakana_Sakana]

なるほど、ChatGPTって偽春菜の高度な奴なのね

[stranger2ex]

揺らぎを実用的に許容な範囲で収められるソリューションへ。 人も間違う。機械も間違う。ならば、厳密な達成志向を手放して制約条件を緩めることになる。

[quwachy]

どう解くか教えてもできるようにならないのかな。いずれにしろ人間は100兆パラメータ、今のAIは1兆前後で100兆に届くのが2029年だから、それまでは人間の優位性は続く

[matsui]

無意識が通常動作モードで意識がデバッグモードだみたいなのカワンゴ氏が言ってたような気がします。

[ys0000]

ベイズさんが最強になるな。

[tomo31415926563]

人間も論理処理しながら会話しているわけじゃないからな。量子コンピュータで解決できるのは本当ですか？

[syque]

“そもそも論理は、多数のデータに見られる傾向を一般化してデータの意味にかかわらず適用できるようにした法則なので、もともとが確率処理でできるというのも無理はない”

[syukit]

つまり我々はfast&slowにおけるslow(システム2)の方で考えなければ今後食っていけなくなるというわけだ。面倒くさいなぁ

[Shalie]

"ChatGPTをはじめディープラーニングでの処理はシステム1での処理を模したもので、だいたい正しそうでよくみると間違っているというような答えを出してくるのだと思います"

[misshiki]

“ChatGPTのヤバいところは、論理処理が必要だと思っていたことが、じつは多数のデータを学習させた確率処理で解決可能だと示したこと”

[fluoride]

計算機は演繹のための機械だったはずが、力業の帰納法でやれちゃうんだと

[pwatermark]

そもそも、俺たちが論理処理だと思っている脳みそ内部の「思考」も、結局の所は確率処理なのだよ やってることは大して変わんなくて、今のDLには「意味づけする、という処理」が実装されてないだけ

[Nyoho]

確かに数学はガチガチの論理が必要なので簡単なことでも間違えまくるもんね。

[taruhachi]

フルリモート勤務なので、会社のSlackのアカウントと関連プロジェクトのGithubアカウントにChatGPTを連携させたら数日くらいサボってもバレないんじゃないかと思ってしまう。下手したら評価が上がってたりして。。。

[kusomamma]

「1100円でバットとボールを買いました。バットはボールより1000円高かったのですが、それぞれいくらでしょう」に対してバットを1000円、ボールを100円と答えてしまうような間違いをするのと同じような間違いをします。

[mas-higa]

"12345hello.md" 以外はマッチするやろ? と必死で考えて、なんでやわからん! となって、実際にコード書いて確かめて、やっぱりそうやん! どゆこと? となって、ようやく ChatGPT の誤りだと気づいた (恥

[yfukuda827]

いいなあ。ここまでわかった上で、ちょっと物知りな中学生女子と話してると思えばいいかな！

[shidho]

ChatGPT、うまく翻訳してないでしょ、って指摘すると認めるけど、それを認めた誤訳箇所はランダムで回答してくるから人工無能に近いかもしれない。

[dlive1]

「論理処理が必要なところを確率処理してしまう（そして大半は問題が起こらない）、というのはベテラン作業者が勘と経験でこなす仕事と似ている」

[dekaino]

直感でバット1050円、ボール50円ってわかる人には理解が難しい比喩なんだよな

[ffrog]

自分の知能、ChatGPTとどっこいどっこいか、あるいはそれ以下かも……

[rennstars]

この「バットとボール問題」、1100円でなく110円で聞いても自分で答えた理屈と計算にすら合わない「ボールが100円」を返す場合があり「確率処理で人間に似た間違い」ではなくネット上の間違い記事を模倣してるだけかも

[You-me]

人間は結構論理的に考えてない、結構な頻度で経験則でざっくり処理してるってのは行動経済学とかの諸実験で明らかでござる。論理的じゃないから論理学を発展させてきたと言ったのは誰だっけ

[junorag]

論理処理ではなくても良かった、というのは囲碁AIの進化の過程と同じか。

[wata88]

たぶん人類の半分ぐらいはchatGPT