kNNとベイズ誤り確率 - Qiitaこの記事は古川研究室 Workout_calendar 21日目の記事です． 本記事は古川研究室の学生が学習の一環として書いたものです．内容が曖昧であったり表現が多少異なったりする場合があります． はじめに 前回はkNNについてこちらで記事にしました． kNNについて勉強していたところ，$k=1$の場合のkNN，通常の最近傍法（以下NN）の説明として，その誤り率の上限と下限がベイズ誤り確率によって決められるという説明を目にしました[1]．そちらの文献の式を追うとともに，理解の過程としてこの章で紹介させていただきます． ベイズ誤り確率とは 本記事で登場する「誤り確率」という言葉は，一貫して「分類器が分類を誤る確率」のことをいいます． ベイズ誤り確率とは，データの特徴そのものの不完全さに起因する「必然的な誤り」であり，特徴空間上での「分布の重なりの度合い」と解釈することのできる誤り確率のことで
