ChatGPTクローンを試す（text-generation-webui編）
text-generation-webui Python製 主にオープンな言語モデル向け stable-diffusion-web-uiと同じ立ち位置を目指しているらしい 普通にChatGPTっぽくつかうというよりは、オープンソースの言語モデルを色々試したり、細かいパラメータ設定したり、トレーニングさせたり、少し専門家向けに柔らかいUI用意した、みたいな感じに近いと思う。 なので、今回の目的とはちょっと立ち位置が違うとは思いつつも、今まで触ってこなかったのもあって、すこし触ってみる。 インストール Windows/Linux/macOS/WSL向けにワンクリックでローカルで実行できるインストーラが用意されているのだけど、中を見てるとcondaとか使ってるみたい。個人的にはcondaをグローバルにインストールすることに躊躇するところがあって、他の方法はないかなーとおもってたらDockerでで
オープンなLLMをDockerで動かす
次々と発表されるオープンな日本語大規模モデル どうなっているの？？という感じですよね。 我らがnpakaさんは、さっそくGoogle Colabで動かしていらっしゃいます。 ただ、Google Colabだと毎回モデルのダウンロードが大変なので、ローカルでDocker使って手軽に動かせるといいな、ということでやってみました。 以下GitHubのリポジトリにDockerfileとサンプルプログラムをおいています。チャットっぽいことをできるようにしています。 上記で、サイバーエージェントとリンナのLLMが両方動きます。 使用環境 前提となる環境です。使用しているPCのスペックは以下です。 項目 内容
DockerでのディープラーニングGPU学習環境構築方法 - Qiita
DockerでGPU学習環境構築 背景 ディープラーニングでローカルPCのGPUを使った学習環境を構築した経験のある人は、一度はNVIDIAのドライバやCUDA周りでハマった経験があるのではないでしょうか？そんなバッドノウハウ（怪文章？）をまとめたQiita記事（TensorFlowでGPU学習させるためにCUDA周りではまったときの対処法）に、なんとNVIDIAの中の人(@ksasaki さん）から「Dockerを使えば…人類は幸せになれる（超意訳）」とのコメントをいただきました！ 喜び勇んで、NVIDIAのドライバをアップデートしたところ、そこには文鎮と化した起動しないLinuxマシンが…からあげのNVIDIAとの戦いは始まったばかりだ！（戦ってません） DockerでGPU学習環境構築するメリット うまく構築できればという前提で、以下のようなメリットがあります。 様々なフレームワーク
ubuntuでpodman試してみた - Qiita
環境 ubuntu 18.04.4 LTS podman 1.9.2 podman-compose 0.1.5 参考サイト https://podman.io/getting-started/installation.html https://qiita.com/rururu_kenken/items/7961d795d7bdd4cb86c2 https://github.com/containers/libpod/issues/2571 手順 1.podmanインストール podmanのサイトにいき、Debianの手順のところを実施。 # Debian Unstable/Sid echo 'deb https://download.opensuse.org/repositories/devel:/kubic:/libcontainers:/stable/Debian_Unstable/
Windows Subsystem for Linux（Hyper-Vなし）でDockerを動かす - nuits.jp blog
Docker for Windowsは非常に便利なのですが、Hyper-V前提になっていることが多くの足かせを生んでいます。Hyper-VはCPUの仮想化支援機能を占有してしまうため、VMwareなどの他の仮想化ソフトウェアや、Intel HAXMを利用したAndroid Emulatorと同時に動かすことができません。 もちろん、切り替えれば（簡単に切り替える方法がありますが）良いのですが、PCの再起動が必要ですし、同時に動かしたい事もままあるはずです。 私も絶賛困っていたのですが、このツイートを見てDockerをHyper-Vなしで動かせることを知りました。 ワオ。Windows 10 Home Edition でも WSL から docker 動いちゃった。最高かよ。 pic.twitter.com/SmVqeHsgH0— mattn (@mattn_jp) 2018年7月8日 実際
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
text-generation-webuiをDockerで動かす
