FPGAに機械学習モデルを実装する – その1：ランダムフォレストによるクラス分類 - GMOインターネットグループ グループ研究開発本部

こんにちは，次世代システム研究室のS.T.です。普段はHadoopネタを書いていますが，今回はテーマをがらっと変えて，FPGAネタです。 「FPGAに機械学習の推論部分を実装し高速に処理を行う」という技術は耳にしたことがありましたが，漠然としたイメージがあるだけで実際にどのように実装していくのかということは知りませんでした。調べてみると，高位合成を用いた手法(1)や，学術研究として開発されたアクセラレータとしてのアーキテクチャ(2)は存在するようですが，シンプルなサンプルコードの形で存在するものはないようです。 もちろん「ソフトウェアエンジニアやデータサイエンティストが作成したモデルを高位合成でFPGAに落とし込みアクセラレータとして使用する」というユースケースを考えれば納得がいきますし，応用できる範囲もHDLで直接実装するより広くなると思います。 しかし，「低コスト小規模なローエンドFP

[sh19910711]

"784次元のMNIST手書き文字画像をそのまま784ビットの入力信号 => 4ビットの識別結果（2進値） / 伝搬遅延を実質的な「推論に要する時間」と考え，ソフトウェア実装の「predictを呼び出してから結果を得るまでの時間」と比較"

[mangakoji]

今どきなんだろうけど、文字認識に28x28pxって、豪華だよな。

[misshiki]

“scikit-learnのRandomForestClassifierで学習したMNISTクラス分類器をVerilog HDLに変換し，FPGA実機で動かす...。処理速度もソフトウェア実装が1.4msであるのに対し，FPGA実装は22nsと非常に高速...”

[ys0000]

こんなに劇的に違うんだなぁ。エッジデバイスでリアルタイム処理するときにGPUより選択肢としては候補になるのか。これを構成できるエンジニア探すのが無理ゲーだろうが（自分にはハードル高いなと思った

[karaageoisii1]

ランダムフォレストモジュールが実質4入力4出力の組み合わせ回路になっているので、論理合成の単純化で大部分が消されてしまったように見える