「写真付きフェイクニュース」大量発生時代の幕開けか 静岡水害の“偽画像”問題を考える

「ドローンで撮影した静岡県の水害の画像」と称して画像生成AIで作った偽の水害画像が9月26日にTwitterで拡散し、物議をかもした。 画像は、建物や木々が泥水につかった様子を描いており、ぱっと見ただけでは、本物の水害写真に見える。しかしよく見ると不自然なところがあり、合成写真のようにも見える。 画像の投稿者はその後、この写真は画像生成AI「Stable Diffusion」で作った偽の水害画像だと打ち明け、謝罪しつつも、本物と勘違いした人を「ばーか！」「ざまあｗｗｗ」などと挑発し、議論を呼んだ。 今回の画像はまだ「偽物だと分かりやすかった例」だろう。明らかに一般ユーザーのアカウントから投稿されていたこと、画像をよく見ると不自然な点が多いことなどがその理由だ。 投稿者本人もすぐに“ネタバレ”しており、「これが安易に広がると想定していなかった」などと釈明している。デマを拡散しようという強い悪

[quick_past]

アイコラの時代も今は昔

[kurukurucure]

合成の問題があったが、結局画像や動画が簡単に生成できるようになると各所で問題が発生する。自重はそもそも求められてるが、行き過ぎたものはそもそも業務妨害が適用されるから、閲覧者の引き続き冷静な判断が必要

[wapa]

サクラチェッカーみたいな感じで、画像がAI製、フェイクなのかどうかを判別するようなAIも必要なんじゃないかな、と。研究テーマになりそう。

[cinefuk]

悪意ある場合の防衛をどうすべきか＞今回のデマ画像も、Stable Diffusionで「flood damage, Shizuoka」のキーワードで出てきた画像だと投稿者は述べている。わずか3ワード入力するだけで、このような写真を生成できる時代なのだ。