タグ

関連タグで絞り込む (2)

タグの絞り込みを解除

機械学習とメモリに関するkenzy_nのブックマーク (1)

  • RWKVをローカルPCで動かす(pyenv/Docker)

    OSはLinuxです。WindowsWSL2で動かしている人もいるので、多分動くと思います。Linux/Windows(WSL2)のセットアップに関しては、以下記事参照ください。 CPUのみでも動かせるようですが、メモリが大量にいります。メインメモリが少なければ、とりあえずキャッシュ領域をアホほど(100GBとか)増やしておけば動くようです。足りないと途中でクラッシュします。 メモリが不足気味でしたら、以下記事参考に最初に設定しておいてください。 モデルダウンロード モデルをダウンロードします。好きなものをダウンロードしてください。初心者は、最初は小さいものを試して自信をつける(?)のがよいかもしれません。 14B バカでかモデル 7B デカいモデル 7B alpacaでファインチューニングされているのでちょっと賢い 3B 小さめモデル pyenv 事前準備 pyenvを使う方法です。ま

    RWKVをローカルPCで動かす(pyenv/Docker)
    kenzy_n
    kenzy_n 2023/03/30
    ご自宅にRWKVを迎える方法
  • 1