Google の FLAN-20B with UL2 を動かしてChatGPT APIのように使ってみる！ - Qiita

Google の FLAN-20B with UL2 を動かしてChatGPT APIのように使ってみる！言語モデルflanUL2YiTay こんにちは！逆瀬川 ( https://twitter.com/gyakuse )です！ 今日は昨日公開されたFLAN-20B with UL2を使ってChatGPT APIのように会話をしてみたいと思います。 概要 Google BrainのYi Tayさんらが開発した新しく公開された言語モデルのFLAN-20B with UL2を使ってChatbotみたいな対話をしてみるテストです。 翻訳を組み合わせて実現します。デカ言語モデルが手元で動いてめちゃくちゃ嬉しさがあります。 Google Colab Colab ProのプレミアムGPUでないと動きません 使い方 ランタイム > ランタイムのタイプを変更からGPU / プレミアムとする A100 4

[misshiki]

“Google BrainのYi Tayさんらが開発した新しく公開された言語モデルのFLAN-20B with UL2を使ってChatbotみたいな対話をしてみるテスト”

[sh19910711]

"FLAN-20B with UL2を使ってChatGPT APIのように会話をしてみたい / デカ言語モデルが手元で動いてめちゃくちゃ嬉しさがあります / VRAMを33GB程度使用 + Colab ProのプレミアムGPU + A100 40GB VRAMであることを確認"

[kazuph1986]

Colabにマックス課金でいけるらしい。