WebGPUでブラウザからGPTなど言語モデルを体験できる「WebGPT」

GPUプログラミングをブラウザ上で行うことができるAPI「WebGPU」に、Google Chromeのバージョン113から正式に対応するようになりました。このWebGPUを使って、GPTなどの言語モデルをブラウザ上で体験できる「WebGPT」が公開されています。 GitHub - 0hq/WebGPT: Run GPT model on the browser with WebGPU. An implementation of GPT inference in less than ~1500 lines of vanilla Javascript. https://github.com/0hq/WebGPT WebGPTはデモページが公開されており、以下からアクセスできます。 WebGPU GPT Model Demo https://www.kmeans.org/ WebGPTはWeb

[proto_jp]

紛らわしい“WebGPTはWebGPUを使うため、”

[pascal256]

やはりこういうのきたか。GPT2がブラウザで動く時代…

[gengohouse]

“WebGPUでブラウザからGPTなど言語モデルを体験できる「WebGPT」”