はじめてのAdversarial Example

今回はadversarial exampleについて解説していきます。Adversarial exampleというのは、下図のように摂動を与えることによりモデルに間違った答えを出力させてしまうもののことです。 この例では、もともとモデルがパンダと正しく分類することができていた画像に摂動を与えることで、テナガザルと誤分類させています。しかし、人間には元の画像との違いはほとんど分からず、パンダのままに見えます。 Adversarial exampleは機械学習モデルを実用化していく上で大きな問題となります。例えば、交通標識をadversarial exampleにしてしまえば、自動運転車をだませてしまう可能性があります。 注目を集めてきている研究分野ですが、まだちゃんと調べたことがないという人も多いかと思います。今回もなるべく丁寧に解説していきたいと思います。 目次 基礎 攻撃 防御 論文紹介

[barringtonia]

数学迷彩だ。

[Nyoho]

敵対的例の生成

[aliliput]

人間って堅牢なんだな

[yumu19]

「Adversarial exampleというのは、下図のように摂動を与えることによりモデルに間違った答えを出力させてしまうもの」情報まとまってる。面白い。

[Makots]

Adversarial ExampleでAIの電脳をハックすることによりAIの目を盗めそう

[yasudayasu]

このような手法で、例えば車の画像であれば、ダチョウクラスに向かって変化させていくと車の画像が徐々にダチョウっぽく変化してくと予想する人が多い。実際には人間には分からないレベルで僅かに変化するだけです。

[theatrical]

おねむだから、元気な時に読みます。

[otituke]

一行目の「摂動」で躓くなど

[Appakun]

“高次元空間での線形性で説明できる”

[guldeen]

現在の画像認識AIは、まだまだ改良の予知があるという事か。

[yu4u]

Black-Box Attack（攻撃対象のモデルの出力を正解ラベルとして自分で代わりのモデルを学習させて、それを利用して攻撃画像を作成する）は面白いなぁ…