AIは勘違いする―テスラとトヨタにみる自動運転カー戦略の違いこのランダムノイズのような画像を、手書きの数字（0～9）を99.8％の精度で認識できる人工知能（この場合はディープニューラルネット）に入力すると、なんと人工知能はほぼ100％の自信度で「1」と判別してしまう。 この画像は、特定のニューラルネットを「だます」目的で、AI技術開発のカラフル・ボードが作成したものだ。学習済みのニューラルネットに画像を入力し、その出力結果が「1」に近づくよう、画像に繰り返しフィードバックを与えたものである。 同社CEOの渡辺祐樹氏は「なぜニューラルネットがこのランダムな画像を『1』と認識するのか、ニューラルネットの挙動から解析することは困難」と語る。一般的なプログラムコードと異なり、ニューラルネットは大量のパラメータから構成され、人間にとって可読性の低いブラックボックスだからだ。 人工知能の判断誤りが事故を生む 人工知能は、往々にしてだまされ、勘違いし、間違った判
