LLMの現在 - Speaker Deck

今のLLMを取り巻く状況について紹介します。

[muchonov]

良い内容。データ枯渇の問題は、我々人間が「低エントロピーを作り出す有機体型の計算機」として存在価値を留めるという、あまり嬉しくない希望を与えてくれる。国産LLMの必要性についての議論は半分納得、半分懐疑的

[buhoho]

もっとエッチなことできる暴力表現を許容するモデルください

[whiteskunk]

自分はLLMに関して門外漢ですけど、いもすさんの所属するPreferred Networksは生成AIなり深層学習なりに関しては日本一進んでる企業と認識してたので、いもすさんが専門家でないなら多分誰も何も喋れないと思います

[KoshianX]

いい資料だった。これまでのLLMの進歩を振り返りながら今現在と近未来の課題、そして日本がLLMに投資すべき理由を明確に描いてる。正しいことは国によって違うというのそうだよねえ

[bopperjp]

LLM に政府が関わってくると、思想に踏み込まれそうで怖いなぁ。カネだけ出して口は出さないを徹底しないと。ここまでくると「めちゃくちゃ頭いい人の教育に国がどう関わるか？」とかいう話と似てきてる。

[kiran_o]

はてぶって、LLMに関して、専門の学者とかじゃない人のばっか上がってくるのなんなんだろう。

[acealpha]

この人がLLM等AI系の専門家でないというよりは、最早日本にその最前線を張れる人がいない、てのが正しくて、そんな中で国産LLMだとか言ってるのはとても虚無 ここ数年で日本は入る余地がなくなった（応用除く

[megumin1]

とてもいい資料だと思いますけど、PFNの人も「国産がー」等、ポジショントーク色が近年はだいぶ強くなってしまったかと思うと少し寂しいものがあります。ビジネスなのでしょうがないですね。応援してます。

[stealthinu]

2024/4時点でのLLMや日本語LLMの状況がわかりやすく説明されてる。でも大まかには計算機力と良質で大量のデータが必要というのは変わらない。

[minorusato]

LLM

[rarere]

麻婆茄子

[takuver4]

読む読む

[misshiki]

全54ページのスライド資料。“LLMを国内で開発できない状態は「中央銀行を失ったような状態」となる”

[RySa]

今のアーキから素人層が産み出している熱狂は数年で覚めるし今後もHW/SWともAIアーキの進化は続く。だから有象無象のトライアルから何かが生まれる事もある。今諦める必要はない。

[sonots]

:eyes:

[quwachy]

長い文脈はリングアテンションでほぼ解決しました(Claude3)

[kagehiens]

学び。

[diveintounlimit]

どっかで見たような気がしたらAtCoderの人か。

[domybest]

LLMに関する最新かつ詳細な説明。役に立つ！

[dpdp]

法学修士の話じゃなかった…

[syu-m-5151]

本当に素晴らしい内容が過ぎてる…

[techtack]

松尾先生の講演と合わせてみると理解が深まる。https://youtu.be/U9vhGvFxKu0?si=razcL4gpAM6pt1e0

[unmarshal]

個人的に日本は我が道を進んだ時に割と上手くいっている気がする。LLMの多様性は案外好機？日本語や各分野の専門知に特化したLLMなら勝ち筋があるのかな。強みが無く汎化や市場のシェア優先を狙う組織は淘汰されそう

[knok]

いもすさんの資料

[kazgeo]

興味深く、現状を説明するいい内容の資料だと思う。

[qpci32siekqd]

社外用と分離して社内用データ学習させた版作れるかだよ/あと国で持てないと、優秀な外交戦略するLLM持つ他国と対決になる。マルチモーダルだと衛星写真や偽装見破るとかね。軍の書類作成時間だけでも差がつく

[awkad]

この会社バズってることにはとりあえず首突っ込んでるんだね

[shinobue679fbea]

ジジババのシップ代をこっちに回せないもんなのか

[kotoripiyopiyo]

難しかったけど良かった。自分もAIに関わる何らかのことができるかな…

[mventura]

10兆円は防衛費目標と同じくらいだから、防衛費削減すれば何とかなるかも / AIの野生化…

[NEXTAltair]

LLMにもマスピ方式有効なのか