Wikipediaを用いた日本語の固有表現抽出データセットの公開

ML事業部の近江崇宏です。 ストックマークではプロダクトで様々な自然言語処理の技術を用いていますが、その中のコア技術の一つに固有表現抽出があります。固有表現抽出はテキストの中から固有表現（固有名詞）を抽出する技術で、例えば「Astrategy」というプロダクトでは、固有表現抽出を用いてニュース記事の中から企業名を抽出しています。（企業名抽出については過去のブログ記事を参考にしてください。） 一般に、固有表現抽出を行うためには、大量のテキストに固有表現をアノテーションした学習データをもとに機械学習モデルの学習を行います。今回、ストックマークは固有表現抽出のための日本語の学習データセットを公開いたします！ご自由にお使いいただければと思います！ レポジトリ：https://github.com/stockmarkteam/ner-wikipedia-dataset 固有表現をハイライトしたサンプ

[cj3029412]

すきすきー🐈💕

[jiro68]

ストックマークという会社のレベルがこの程度だったとは...。Wikipedia であれば、スクレイプすれば単語のタイプ(品詞-固有名詞)も簡単に分かる訳で、これって大学生位が演習でやるレベルでは？

[n_231]

各データセット数、この10倍ぐらい欲しいイメージがある。