画像復元のための適応型クロスレイヤー注意
非局所的注意モジュールは、画像の復元に不可欠であることが証明されています。従来の非ローカルアテンションは、各レイヤーの機能を個別に処理するため、異なるレイヤー間の機能間の相関が失われるリスクがあります。この問題に対処するために、このホワイトペーパーではCross-Layer Attention（CLA）モジュールを提案します。同じレイヤー内で相関するキーピクセルを見つける代わりに、各クエリピクセルはネットワークの前のレイヤーのキーピクセルに対応できます。学習能力をさらに高め、CLAの推論コストを削減するために、改良されたCLAとしてAdaptive CLA（ACLA）をさらに提案します。 ACLAには2つの適応設計が提案されています。1）各層で非局所的注意のためのキーを適応的に選択する。 2）ACLAモジュールの挿入位置を自動的に検索します。これらの2つの適応設計により、ACLAは、レイヤ
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
https://arxiv-check-250201.firebaseapp.com/each/2403.20080v1
https://arxiv-check-250201.firebaseapp.com/each/2403.19163v1
https://arxiv-check-250201.firebaseapp.com/each/2312.09411v1
https://arxiv-check-250201.firebaseapp.com/each/2311.03912v1
AutoQNN: ニューラル ネットワークを自動的に量子化するためのエンド ツー エンドのフレームワーク
学習画像圧縮の実用性評価
画像復元のための適応型クロスレイヤー アテンション
モバイルデバイスでディープラーニングを有効にする：メソッド、システム、およびアプリケーション
AdaPruner：適応チャネルプルーニングと有効な重みの継承
最適なニューラルネットワークの抽出：多様な空間での迅速な検索
NPAS：リアルタイムのモバイルアクセラレーションを超えた統合ネットワークプルーニングとアーキテクチャ検索のコンパイラ対応フレームワーク
AutoReCon：データフリー圧縮のためのニューラルアーキテクチャ検索ベースの再構築
動的なスリム化可能なネットワーク
BSQ：混合精度ニューラルネットワーク量子化のためのビットレベルのスパース性の調査
AACP：正確な自動チャネルプルーニングによるモデル圧縮
効率的な単一画像超解像のための3レベルニューラルアーキテクチャ検索
最適なニューラルネットワークの蒸留：多様な空間での迅速な検索
GAN圧縮：インタラクティブな条件付きGANのための効率的なアーキテクチャ
NPAS：リアルタイムのモバイルアクセラレーションを超えた統合ネットワークプルーニングとアーキテクチャ検索のコンパイラ対応フレームワーク