WebAssemblyでの機械学習モデルデプロイの動向

本記事はMLOps Advent Calendar 2020の 2 日目の記事です。 WebAssembly（Wasm）は機械学習モデルをデプロイする新たな手段になりうるでしょうか。 この記事では、機械学習モデル（特に Deep Learning）を Wasm でデプロイする周辺技術の動向や内部の仕組みをざっくりと説明します。 Table of Contents tkat0 です。WebAssembly(Wasm)面白いですね。 私も最近はyewでフロントエンドを書いて遊んでいます。Rust で React っぽいことできるのは新鮮で面白いです。 Wasm は、なんとなく速い JavaScript？とか機械学習で何に役立つの？とか思ってる方も多いと思います。 しかし、Wasm はブラウザでの推論時に使えるだけでなく、機械学習モデルのサービングやエッジデバイスでの推論にも使えると知ったら驚き

[Nyoho]

「王道的な応用ですが、Google Meetの背景ぼかしは、ブラウザ上でWasmとしてデプロイしたモデルで行っています。」そうだったのか!

[misshiki]

“ML部分がWasmになるから嬉しいというよりは、アプリケーション全体をWasmにしてデプロイすることに利点が大きく、ML部分もそのエコシステムに乗れるようにしていくモチベーションがある”

[braitom]

WebAssemblyを機械学習で使うモチベーション、Wasmの機械学習モデルデプロイの動向、フレームワークなどの対応状況についてまとめられている。

[piro_suke]

“yew”

[hamamuratakuo]

ML部分がWasmになるから嬉しいというよりは、アプリケーション全体をWasmにしてデプロイすることに利点が大きく、ML部分もそのエコシステムに乗れるようにしていくモチベーションがあると思います。

[iinalabkojocho]

“WebAssemblyでの機械学習モデルデプロイの動向”

[sonots]

面白いことやってるな

[efcl]

WasmとML

[skypenguins]

よさそう