LINE、NAVERと共同で、世界初、日本語に特化した超巨大言語モデルを開発 新規開発不要で、対話や翻訳などさまざまな日本語AIの生成を可能に | ニュース | LINE株式会社

LINE、NAVERと共同で、世界初、日本語に特化した超巨大言語モデルを開発 新規開発不要で、対話や翻訳などさまざまな日本語AIの生成を可能に 従来の特化型言語モデルとは異なる、汎用型言語モデルを実現予定。 処理インフラには世界でも有数の、700ペタフロップス以上の高性能スーパーコンピュータを活用 LINE株式会社（所在地：東京都新宿区、代表取締役社長：出澤剛）はNAVERと共同で、世界でも初めての、日本語に特化した超巨大言語モデル開発と、その処理に必要なインフラ構築についての取り組みを発表いたします。 超巨大言語モデル（膨大なデータから生成された汎用言語モデル）は、AIによる、より自然な言語処理・言語表現を可能にするものです。日本語に特化した超巨大言語モデル開発は、世界でも初めての試みとなります。 従来の言語モデルは、各ユースケース（Q&A、対話、等）に対して、自然言語処理エンジニアが個

[kana0355]

どのデータ使ったんだろう……．

[KoshianX]

まあこういうことができるだけの資金力と技術力があるのは日本だといまはLINEくらいなのかな。API提供されたら触ってみたい

[burabura117]

ええええ、作ったんじゃなく、今後作るためのインフラ構築に取り組みますという発表？ファイナルファンタジーの開発発表会みたいな感じですか

[NETBEET]

https://japanese.joins.com/JArticle/272681 韓国ネイバー、日本の検索サービス市場３度目の進出…「今度は必ず成功」2020.11.25

[yam_123]

開発予定、検討としか書いてないね。

[bnazo]

LINEはNAVERの100%子会社だったし、NAVERは韓国で検索エンジンもやってるわけで、日本に検索でチャレンジするのかな？

[mouseion]

韓国企業が韓国企業と共同で日本侵略の相談ですか？

[chuujou]

新語が次々入るNeologd便利だよね https://github.com/neologd/mecab-ipadic-neologd/blob/master/README.ja.md

[pptppc2]

たとえば、与えた言葉（「運動」）に対して、これまで学習した中から最もそれらしいと判断した文字列（「、睡眠、瞑想、野菜」等）を返すといったことが考えられます。

[table]

日本語にガチで取り組んでるのはLINEくらいだよなぁ。MSもGoogleもAmazonも日本語に注力する理由が一つもない

[quwachy]

プレスリリースはなおこの文章は全てAIによって書かれたで頼む

[misshiki]

“従来の特化型言語モデルとは異なる、汎用型言語モデルを実現予定。処理インフラには世界でも有数の、700ペタフロップス以上の高性能スーパーコンピュータを活用”

[ekari]

こういうのからのフィードバックから、学校文法の改善に結び付かないか

[otchy210]

なるほど。日本の検索市場に再挑戦するための下地か。LINE アプリに自然言語で話しかける検索が実現して、結果の閲覧もページをシェアするのも全部 LINE 内で完結させるとかだとワンチャンあるかもしれん。

[yuki_2021]

へぇ、どんなもんかね？

[eagleyama]

“AIテクノロジーブランド「LINE CLOVA」”

[miquniqu]

同じ会社だと思ってたわ

[stealthinu]

LINEが日本語版GPT-3みたいなのを開発するよ！というプレスリリース。まだ出来てるわけではない。が楽しみではある。こういうのもはや普通の企業や大学では研究や開発できない規模になってるから。

[syou430]

若い世帯の韓国びいきの波に乗ればチャンスあるとおもってしまう。韓国産です！って言って好む層と嫌う層いるし、ネバーが韓国産だと知らないひとも大勢いる。どっちに転んでも半々になるから難しい

[knok]

100億ページという表現からWebをコーパスにしてると予想。NAVERはもともと検索エンジンやってるわけだしなあ。金さえあれば自分もCommonCrawlでやってみたいが…CFでGPT-2日本語をやった人はいるhttps://github.com/tanreinama/gpt2-japanese

[eepub]

こねくりまわして書いてあるけど、これから頑張りまーすってことでしょ

[makoto15]

予定は未定

[shintoshrine]

LINEはさっさと潰れて欲しい

[absolute-myself]

日本語で説明すればいい所をカタカナ英語にしたり、何をしたいんでしょ?

[yuno001]

その前に日本語の形態素解析をだな。

[chaxahc]

LINEとNAVERを信用する日本人がいるわけない

[mysql8]

GPT-4かな?日本語の前処理の知見を公開してほしい

[madannoshashu]

できたのかと思ったら、これから出来るかもということなのですね。 しかも「できるかも」よりも「取り組むかも」という表現の方が適切か… 微妙だけどタイトル、優良誤認臭する

[nilab]

「従来の特化型言語モデルとは異なる、汎用型言語モデルを実現予定。処理インフラには世界でも有数の、700ペタフロップス以上の高性能スーパーコンピュータを活用」

[password1234]

ぼんやり読んでたからブコメ見るまで開発完了したのだと勘違いしてた。完了してからプレスリリース打てばいいのに

[leiqunni]

言語は時代や分野や年代によって差異が大きいと思うけど、たたテキストを大量にぶち込めばいいのかな。古典文学とか新聞記事とか村上春樹とか、カテゴライズしてほしい。

[vanish_l2]

検討で草

[onesplat]

LINEってNAVERじゃないの？

[t-murachi]

ワイは素直に応援したい。

[shields-pikes]

言葉の意味はよくわからんが、とにかく凄い自信だ！！

[Tailin]

富岳が約400PFLOPSなんですが想像上のスパコンなんですね

[ranobe]

「パラメーター」「パラメータ」が表記ゆれしてるんで、ほんとがんばってほしい

[srng]

日本語事情を考えると確かにLINEくらいしかないが、予定しか言っておらず空手形感も

[hauka]

学習データに特有の偏りが出たりしないんだろうか。

[ayakohiroe]

クローバ全然使えないけどワクワク。