【図解】Attentionとは？わかりやすく、そして深く解説｜自然言語処理(NLP) - すえつぐのNLP&LLM

自然言語処理ライブラリの解説などで度々見かける「Attention」。（Attention機構とも呼ばれます） Attentionは自然言語界のブレイクスルーと言われ、BERTやGPT-3といった最先端技術を理解する上で必須の仕組みです。 このページでは「Attention」についてわかりやすく、そして深く解説していきます。