AI（LLM）についてまだみんなが知らない8つの事実（論文：Eight Things to Know about Large Language Modelsについて）

いかにも海外の煽り記事みたいなタイトルを付けてしまったが、おおむねそういう感じの内容の論文が発表されて、興味深かったので今回はそれについて書いてみたい。 最近、「AGIが人類を滅亡させる！」みたいなAI人類滅亡説がにわかに広がっているらしい。 これの言い出しっぺみたいな人は、ユドコウスキー氏という方らしいが、彼は何十年も前からAI脅威論を言っていたらしい。そういう人もいるとは思うが、最近はそれを真に受けちゃう人が増えてるらしい。ChatGPTの実力に驚いた人が増えたからだろうか。 ホワイトハウスでFox Newsの記者が「AIが人類を滅亡させるってホントですか？」と質問しちゃうというような、パニック映画さながらの出来事まで起きている。これはエイプリルフールではない。 ホワイトハウスでFox Newsの記者が「機械知能研究所の専門家がAI開発を無期限に停止しないと文字通り地球上のすべての人間

[mkusunok]

さっぱり分からないまま、猛烈な勢いで進んでいるの、インターネットの時ともちょっと違うかな

[zakkie]

“LLMというのは、学校で先生の授業を受けてる学生みたいなものかもしれない。学校ではいい子にしてるけど、家では暴れたりするかもしれない。”

[arakik10]

「３．LLMは世界の表現を学習してるっぽい」は「３．LLMは(次単語の推測器でしかないはずなのに)しばしば外部世界の表象を学んで使っているような見てくれ(appear)になる」の方が良いような気がする

[hhungry]

“パラメータ数を増やすだけでこのような想像を絶する進化が起きてしまっている”/これよく言われてるけど半分ノーだと思うよ。Googleや中国のAIを見てわかる通りパラメータ数を増やしただけではGPTは作れない。

[dgen]

AI開発してるような人なら全部感覚としてわかっているようなことばかりだった。AIはまだおバカだから実体や権限を持たせたら危なっかしい。高度になればそれはそれで人知を超えた発想をするから危なっかしい。

[tan1]

“。

[samasan-tabasan]

たし🦀なー。健全な(と思われてる)人間でも、何かのキッカケでグレて暴れ出すとか暗黒面に堕ちたりとかするわけだし、人間を模したAIだって、そういう可能性は十分あるだろなーw

[quwachy]

よくわからないけど、ユダヤ人は危険だから殺しておこうと同じ感じがする。人類は反省しないな

[shunkeen]

“結局LLMっていい物なのか、それとも悪い物なのか？そんな価値判断についてはこの論文では触れない”／その価値判断を議論するための参考文献として役にたつ感じなのかな。