【論文紹介】TabBERTモデルによるクレジットカードの不正利用検知 - Qiitaはじめに 自然言語処理で利用されるBERTを多変量表データの学習に応用した、Hierarchical Tabular BERT(TabBERT)というモデルの紹介論文を簡単にまとめた記事となります。 論文では、時系列表データの生成モデルであるTabGPTやTabBERTによる大気汚染濃度の回帰分析についても紹介されていますが、今回は自分のやりたいことと近い、TabBERTによるクレジットカードの不正利用検知(分類)の部分のみをまとめました。 前提知識 BERTどころか自然言語処理の知識もゼロのところから論文を読み始めたらAbstractの部分でいきなり詰んだので、読み進めていく上で必要となった知識についてもまとめました。 このあたりの知識がある方は、スクロールして「論文紹介」のところからご覧ください。 自然言語処理とは 日常生活で使用する言語に関する問題(タスク)をコンピュータで解くことを
