【論文読み】CPUでディープラーニングを高速化するSLIDEの紹介 - Qiita

はじめに ライス大学とインテル社の共同開発によって、GPUのような特別なアクセラレーションハードウェアなしでディープラーニングを高速化できるSLIDEが考案されました。そのSLIDEについて解説します。 Deep Learning Breakthrough Results In A 44-Core Intel Xeon Destroying NVIDIA Tesla V100 GPU TL:DR GPUが得意とする行列演算をやるのではなく、LSHによって直接計算せず活性化したニューロンを取得することができます。 Locality Sensitive Hashing Locality Sensitive Hashing（LSH）は、大量なデータから類似度が高いデータのペアを高速に抽出してくれるアルゴリズムです。以下は参考ページです。SLIDEはこのLSHの考え方に基づいて設計されています。

[sh19910711]

"SLIDE: 行列演算をやるのではなく、LSHによって直接計算せず活性化 / LSH: ベクトルを入力とし、スカラ値を出力する関数 (ハッシュ関数) を定義 + 似たベクトルであれば同一の値を返しやすくする" 2020