Code Llamaのinstructを試す - きしだのHatena

Llama2をコーディング用にチューニングしたCode Llamaでてますね。 そして、対話モデルもあります。 けどどう使うかわからなかったのでいろいろ試したら、なんとなくわかったのでメモ。 モデルはHugging Faceにあるので、ふつうのTransformersモデルとして使えます。 で、指示文は[INST]～[/INST]で囲む、システムからの出力は<SYS>から</SYS>で囲まれるという感じぽい。 ので、プロンプトをこんな感じで作る。 prompt = f"""[INST]{prompt}[/INST] <SYS> コード全体はこうなります。 import torch from transformers import AutoModelForCausalLM, AutoTokenizer from colorama import Fore, Back, Style, init