急増する「AI生成」による児童の性的虐待画像、OpenAIなどが対抗措置開始 | Forbes JAPAN 公式サイト（フォーブス ジャパン）

AI画像ジェネレータの普及は、人工知能（AI）で生成した児童の性的虐待コンテンツ（CSAM）の急増につながっていることが、全米行方不明・被搾取児童センター（NCMEC）の新たなレポートで明かされた。 2023年に同団体の苦情受付窓口に寄せられたCSAM関連の報告は3620万件で、前年の3200万件から増加し、2019年のパンデミック前の件数の2倍以上に達している。この3620万件のうちの約5000件が生成AIを用いた画像だと判断されたが、実際の件数はそれ以上だと考えられている。 NCMECの苦情受付窓口担当者ファロン・マクナルティは、「報告件数の全体から見れば、かなり少ない件数に思えるが、私たちが懸念しているのは、報告を行う企業の検知能力が向上するにつれて、今後もこの件数が増え続けることだ」と語った。 ここ1年でAIを用いた画像生成ツールが違法な性的虐待画像の作成に使用されているという報告

[misshiki]

“AI画像ジェネレータの普及は、人工知能（AI）で生成した児童の性的虐待コンテンツ（CSAM）の急増につながっていることが、全米行方不明・被搾取児童センター（NCMEC）の新たなレポートで明かされた。”