AIチャットボットを狙う「プロンプトインジェクション攻撃」 英当局が警告 | Forbes JAPAN 公式サイト（フォーブス ジャパン）

英国の国家サイバー・セキュリティ・センター（NCSC）は、企業が大規模言語モデル（LLM）を自社のサービスに統合する際には、セキュリティ上のリスクが生じる可能性に細心の注意を払うべきだと警告している。 NCSCによると、ハッカーが「プロンプトインジェクション」と呼ばれる攻撃によってチャットボットにアクセスし、サービスを乗っ取る可能性がある。プロンプトとは、人工知能（AI）の言語モデルに入力するテキストなどの命令文のこと。 「銀行が、口座保有者のためにチャットボットを用意し、財務に関する質問や指示を行う場合を考えてみよう。ハッカーは、悪意を持つプロンプトをチャットボットに送り込み、別の口座に資金を送金させるかもしれない」とNCSCは述べている。 このような攻撃が可能であることはすでに実証されている。チャットボットは通常、機密情報を漏らしたり、不快なことを言わないように設計されているが、スタン