エントリーの編集
エントリーの編集は全ユーザーに共通の機能です。
必ずガイドラインを一読の上ご利用ください。
オープンLLM(大規模言語モデル)OLMOをつかう - Qiita
記事へのコメント0件
- 注目コメント
- 新着コメント
このエントリーにコメントしてみましょう。
注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています
- バナー広告なし
- ミュート機能あり
- ダークモード搭載
関連記事
オープンLLM(大規模言語モデル)OLMOをつかう - Qiita
from hf_olmo import * # registers the Auto* classes from transformers import AutoModelForCausalLM... from hf_olmo import * # registers the Auto* classes from transformers import AutoModelForCausalLM, AutoTokenizer olmo = AutoModelForCausalLM.from_pretrained("allenai/OLMo-7B") tokenizer = AutoTokenizer.from_pretrained("allenai/OLMo-7B") message = ["The best way to make cat happy is"] inputs = tokenizer(message, return_tensors='pt', return_token_type_ids=False) response = olmo.generate(**inputs, ma