シンギュラリティは来ない - きしだのHatena

ChatGPTが思いがけずいろいろなことを人間より賢くやっているのを見てシンギュラリティという言葉を使う人が増えたように思いますが、逆に、シンギュラリティは来ないのではという思いを強くしています。 まず、この文章でのシンギュラリティがなにかという話ですが、レイ・カーツワイルが「シンギュラリティは近い」の1章の終わりで「さあ、これが特異点だ」といっている特異点、そのシンギュラリティです。 シンギュラリティは近い―人類が生命を超越するとき 作者:レイ・カーツワイルNHK出版Amazon この特異点は単にAIが人間より賢くなるというだけではありません。人間より賢くなるだけだと、便利な道具が増えるだけなので、大騒ぎするほどの変化は起きません。人の仕事を奪うといっても、蒸気機関ほどでもないですね。印刷機などと並んで、人の生活を変える転換点にすぎず、ただひとつの点をあらわすシンギュラリティには なりま

[pptppc2]

庵野秀明監督作品「シン・ギュラリティ」

[sugawara1991]

後に”あれが特異点だった”と振り返る類のものではないかなあ。原義のシンギュラリティとは異なるかもしれないけど、何らかの技術的特異点を通過することがありそうと個人的には感じている

[xorzx]

GPT5は4のスケールアップでは性能向上が限られるので別の方法を探すらしく、まだ予定もない。当面AIの進化はGPT4的な特化型改良版になりそうで、今のAIの先にはシンギュラリティは来ないって予想。納得しかない。

[tdaidouji]

いつも思うんだが、特異点を人類が観察できるはずという前提がわからん。人間超えてんだから人間には見えないとこでなんかあるかもしれんし、人間の理解可能な範囲に落とし込んだら特異点にはなり得ないんでは

[InoHiro]

それらの問題と考えられている課題を、AI自身が自分で解決するようになると技術的特異点という感じがする

[gfx]

「LLMの先にはシンギュラリティはない」って話であれば、そうだと思う。となるとシンギュラリティへの道はまだ見えてない、ってことになるわけだけど……。

[cider_kondo]

定義通りのシンギュラリティ起こそうとすると、最低限でもAIが自前でプロセスルール変更を含めた集積回路の設計製造設置までやれんと無理だよなあ

[halpica]

「来ない」ではなく、「まだ来ていない」では？

[sevenspice]

人が能動的に使わくてはならない内はシンギュラリティはない気がする。何もしてないのに人工知能側からアプローチ仕掛けてくるようになってからが本番かな。

[tenderfox]

しばらくはGPT-4レベルで上手く使ってく時代なんでしょうね

[quick_past]

クオリアの存在は信じてないし、人間の思考とAIにそこまでの違いがあるとも思えない。シンギュラリティは来ないと言うより、人は人の心の振舞をそこまで理解してないのでは。

[yuzuk45]

インターネットは教科書に載るが今のAIは載るか怪しいって理解でOK？

[ysync]

まぁ今のLLMの延長線上には無いのは確かかな。

[rryu]

もう来ている感じはするが人の行動の結果がAIの物理的能力の拡張につながる道が塞がれているだけで、そのうちどこかがうっかりやらかしそうではある。ChatGPTのプラグインは結構やばい感じがする。

[i-komo]

今の（効率の悪い）学習手法が前提になってるけど、それは危ういのでは？

[zu2]

（俺が生きてる間には）来ない、とかならそうかもなあ

[filinion]

「AIはソーティングもできない。特異点は来ない」→「AIにプログラミングは無理。特異点は来ない」→「ハード性能は頭打ち。特異点は来ない」(new!)　GPT4の性能を予見していた上で言うならともかく、後知恵ではなあ…。

[fukken]

GPTxが、GPT(x+1)を開発できるようになったら、それは十分技術的特異点と言っていいと思う。

[pwatermark]

要件定義とコードの生成とデバッグまで自分で出来るようになったら、「よりよいGPT」を自力でブラッシュアップしていく可能性はあるね それが出来たら、あとは計算資源をどうするかしか問題にならない

[posmoda]

まあ未だにフレーム問題を解決できないからな…

[stealthinu]

この「来ない」は単にLLMがこのまま伸びて人より賢くなっただけではということだと思うけど、それでも来ると思うよ。人より賢いやつが大量にコピーできるのでそれが科学全体を推し進めるのだから。

[qawsklp]

そもそもlispをベースにした自己複製可能なプログラムの進化ってもう無かったことになってんのかな？..

[technocutzero]

粘土をずっと捏ね続けてもダイヤモンドにはならんよな　今あるものは知能じゃなくてそれっぽく見せる補完能力だけ持った伽藍堂なんでどれだけ拡張しても源泉にはならん

[bqob9po124]

「恋人はもういない時代はもどらないよねタイムマシーンはこない…そんな歌をうたってた」というcharaさんの名曲の一節を想起させるタイトル

[kuhataku03]

計算資源が限界きてるので、まずは半導体関連のブレイクスルーをgpt4を使って成し遂げられるのであれば、その先が広がっていくかもね

[khtno73]

「今の知識で語っている」と言うが、「GPT見てシンギュラリティが始まった！と騒いでいる向き」に対しての見解だから当たり前だろ。現実的なハードルがどこか、を議論する段階まで来たともいえるけどさ。

[bxmcr]

LLMでもう少し勢いよく進歩するかと思っていたが、難しいんだ……少し安心？残念？まだまだ乗り越えられていない壁がいくつもあるようだ。

[daishi_n]

安価な製造プロセスで製造していたGPUやNANDフラッシュが最先端プロセスで製造するようになって原価増加や性能の伸びが鈍化したように、ハードが最先端をキャッチアップした先は方向を変えんと無理か

[sptnik]

粘土板に楔形文字チクチク掘るほうが、人類史的発明だと思うなあ。稗田阿礼だって木簡見たら「やべえクビになる」ってギャーっと言ってただろうし。恐るに足りん

[OrientHistory]

シンギュラリティはあくまで理論上の話であり実際にはハードウェアやデータ、資産などの資源管理をAI自身で行えるようになる必要があると読んだ。将来AIが都市や工場などをまるごと管理するようになれば可能かも？

[takahiro_kihara]

Google先生に聞いても、「ギュラリティ」はシンギュラ…に変換されてしまうので、解釈不能…

[green_chili]

「、人工知能の発展は人工知能で閉じて行えるわけではなく人間社会との関わりが必要になるので、シンギュラリティと言えるほどの進化スピードの変化は起きない、という結論です。」

[panoramaafro]

今あるサービスのコストダウンは起きて、仕事が変わりそうというところだけはわかる。これをみんなシンギュラリティと言ってしまってる気がする。

[urtz]

多分、今OpenAIがやってるのはGPT4に自己評価させて自身の学習コードを再帰的に改善するロジック作りだろう。もしそうならシンギュラリティを目指している。大規模学習はサチってないはずだがそっちに賭けたんだろう

[chocolatedisco1053]

何か今の知識だけで語っているけどたった10年でテクノロジーって滅茶苦茶進化するからな。どれくらいのタームで考えないと

[AQMS]

AIより人の方が安いからなあ。AIもわざわざ他のAIを使おうとはしないだろう。

[canadie]

シンギュラリティの定義をずらして「来るとも言えるでしょ」ってコメ、ロジックが乱暴すぎない？記事冒頭にちゃんと定義示してそれが来ないって論じてるのに

[tpircs]

Webへの情報発信をAIが自動で行うようになれば学習データは爆増しそうというか、Web上にある情報がほとんどAIによるものになったり人類はAIにより作られた情報社会で生きていくとかは普通にありそう。

[Cru]

来てないのは同意するが来ないってのはどうか？シンギュラリティって言葉に接した時点で汎用AIは影も形もなかったし今もあるとは言えないが。現況でhardwareに律速されてるが今後LSI設計にAIを使うのは急速に進展する…

[KoshianX]

まだ断言するには早いと思うけど、基本的に俺も同意見。ハードウェアの制約でこれ以上飛躍的には発展しないよな今の路線。逆になんらかの飛躍があると……ってことでもあるんだけど、9割方ないだろうと思ってる