フリーで使える日本語の主な大規模言語モデル（LLM）まとめ

ありがとうございます！ 実は私本人がそのモデルの構築に関わっているのですが、詳細はまだ言えない状況です...。 来年3月の言語処理学会年次大会(NLP2023)での続報をお待ちください！このモデルに関する論文が公開される予定です（一応それを待ってからこの記事にも掲載します）。 （私が書いたものではありませんが、現段階で公開できる情報をまとめた記事があります: https://note.com/utokyo_itc/n/nb18b2a753f23 ）

[misshiki]

文書分類や固有表現抽出、選択肢解答問題など、入力文自体を処理するタスクに主に使うモデル8つと、翻訳や要約、質問応答など、テキスト生成タスクに主に使うモデル3つ

[knok]

https://github.com/tanreinama/gpt2-japanese がないな。CFで費用を募って構築したコーパスによる日本語GPT2モデル。ただしHuggingFace transformersと互換性はない

[yojik]

“HuggingFace ”

[naggg]

ありがたやありがたや・・・

[aox]

大相撲言語 ʕ•̫͡•ʕ•̫͡•ʔ•̫͡•ʔ•̫͡•ʕ•̫͡•ʔ•̫͡•ʕ•̫͡•ʕ•̫͡•ʔ•̫͡•ʕ•̫͡•ʕ•̫͡•ʔ•̫͡•ʔ•̫͡•ʕ

[yarumato]

“文書分類や固有表現抽出、選択肢解答問題など、入力文自体を処理するタスクに主に使うモデル。翻訳や要約、質問応答など、テキスト生成タスクに主に使うモデル”

[UME]

まとめ感謝

[hamamuratakuo]

Hugging Face の Model Hub にモデルがアップロードされており、AutoModel.from_pretrained() 等ですぐ読み込めるか否か　https://github.com/huggingface/transformers

[mysql8]

GPT-3とMegatron-Turing NLGがない🥺

[LunarCamel]

“文書”

[finefinethankyou]

まとめ

[yuiseki]

有益情報