ちょっとした「言い換え」でAIはだませる、MITが敵対的攻撃を実証「テキストフーラー（TextFooler）」は、文中の特定の単語を同義語で置き換えるだけで自然言語処理（NLP）システムをだまして文章を誤解させることができるソフトウェアだ。同ソフトウェアを使った試験では、3つの最新のNLPシステムの正確度が大幅に低下した。たとえばグーグルのBERT（バート）の場合、イェルプ（Yelp）のレビューのネガポジ判定が5〜7倍も悪化した。 ニュースの内容判別やフェイクニュースの検出、感情の分析といったタスクの訓練済みのNLPシステムを攻撃すると、すべてのケースで人工知能（AI）は著しく成績を落とした。 マサチューセッツ工科大学（MIT）のチームが開発したこのソフトウェアは、NLP分類器にとって最も重要な単語を文中から探し出し、人間が自然と感じる同義語に置き換えるものだ。たとえば、「ありえないほど人為的な状況に配置された登場人物は、現実から完全に隔絶されている」と
