タグ

ブックマーク / note.com/ngc_shj (1)

  • WSL2でPhi-3-mini-128k-instructを試してみる|noguchi-shoji

    「Phi-3 データセットを使用してトレーニングされた、38 億パラメータの軽量の最先端のオープンモデル」らしい、Phi-3-mini-128k-instructを試してみます。 使用するPCはドスパラさんの「GALLERIA UL9C-R49」。スペックは ・CPU: Intel® Core™ i9-13900HX Processor ・Mem: 64 GB ・GPU: NVIDIA® GeForce RTX™ 4090 Laptop GPU(16GB) ・GPU: NVIDIA® GeForce RTX™ 4090 (24GB) ・OS: Ubuntu22.04 on WSL2Windows 11) です。 1. 準備venr構築 python3 -m venv phi3 cd $_ source bin/activateパッケージのインストール。 pip install torch

    WSL2でPhi-3-mini-128k-instructを試してみる|noguchi-shoji
    dalmacija
    dalmacija 2024/04/25
    意外と支離滅裂さが低い……
  • 1