【独自】生成ＡＩで児童の性的画像、国内サイトに大量投稿…推計で毎月３０００点以上

【読売新聞】 画像生成ＡＩで作ったとみられる児童の性的画像が、大阪のＩＴ企業が運営するサイトに大量に投稿されていることがわかった。読売新聞が専門家の監修を受けて調べたところ、実写の「児童ポルノ」と区別がつかない画像が推計で毎月３００

[chantaclaus]

「ほんとに架空なのか」「架空だとしてそれはなんのデータが基になってるのか」はちゃんと押さえないと「架空だからいいじゃん」は早計だと思う

[sangping]

実在する児童に実害がなければ問題とすべきではない。しかし、実在の児童の虐待画像が大量の生成画像に紛れ、結果として実在の児童の保護に支障をきたすことが「明確に実証」されたなら、何らかの対応は必要だろう。

[itarumurayama]

そもそも、児ポ法の趣旨は、実在児童の性的プライバシー侵害を理由としてる。児童が実在しない、モデルとなる児童も推測出来ないなら、そもそも侵害されてる法益が存在しないので、無罪

[niwaniwaniwauwaniwaniwaniwa]

この手の画像は、規制反対派が思っている以上に大量の「実在児童のポルノ画像」を学習元として参照していることを知っている人はとっとと該当する生成者を通報してくれ。その画像があるなら逮捕しない理由ないだろ

[hiduru_k]

基本的にはAI規制も創作物規制も抑制的であるべき派なんだけど、これに関しては、ほんとに実物のように見えるのが作られて売られてる以上、表現の自由といってほっとくと、広範な規制議論に発展しかねないと思ってる

[ho4416]

AIが未だに実在の写真を切り貼りしたアイコラ生成機だと思ってる人がいるがAIの生成ってそういうものではない

[catan_coton]

成人女性を学習してるchillout mixと二次元画像を学習したloraでもそれっぽいのは出せるから、生成されてる=実在の児ポを学習してる、ってのはちょっと違う。まあ全てがそうとは言わんが。男を学習してないmodelは無いよ。

[JohnnyJosui]

この手の画像は、規制反対派が思っている以上に大量の「実在児童のポルノ画像」を学習元として参照している。それらと区別ができないほど精巧なものが出力されるなら、一律に全部禁止しないとね

[erya]

今のAIの仕組み上、子供と脱衣女性をそれぞれ学習すれば脱衣女児作れるのでは？ペガサスに乗った宇宙飛行士作れるんだから。

[Windfola]

今後、例の四谷大塚の講師グループのような連中が、戦利品をディープフェイクという体裁とって一部加工した上でやりとりするようになったらどうなるかな、みたいな事は考えてしまうね。

[filinion]

AIは「子ども時代のフリーレン」とかでもスラスラ生成できてしまうので、「児童ポルノを生成するAIは児童ポルノを学習しているに違いない」というのはちょっと…。もちろん、実在児童の性的虐待は厳罰に処すべき。

[preciar]

child abuse being じゃないので何の問題も無い。以上終了。学習元云々も、違法な画像を見て絵の勉強するのは違法じゃないのと同じなので難癖は無理筋／AI画像は独自モデル使ってない限り実写と区別つくよ

[uotocs]

投稿があるよって記事なのか。毎月3000点は少なくないか？

[misshiki]

“画像生成ＡＩで作ったとみられる児童の性的画像が、大阪のＩＴ企業が運営するサイトに大量に投稿されていることがわかった。”

[daybeforeyesterday]

うーむ

[spark7]

いずれ非実在無罪が通らなくなる日も来そうだな / こっちの記事の方が詳しい。 https://www.yomiuri.co.jp/national/20231112-OYT1T50002/

[Aion_0913]

表現の自由的には…なんだけど、エロ絵写真もそうだけど性加害者が児童を間接的に加害しようとそういう図画に興奮する様を見せて次はお前だとやる為のネタにされることが度々現実にあるとある程度規制もね。

[ryusanyou]

こうやってしたり顔で立法司法倫理がフェイクの元データに踏み込まないなら、罪の声ならぬ罪の躰なんてのが一本書けるな

[justsize]

fantasficというサイトが、なぜか最近決済機能を停止したり、ガイドラインを守るようにアナウンスしたり対応に追われている。ふむふむ。本社は吹田市…と。

[masaniisan]

どの程度実際に違法な学習元が含まれるのか知らないが、逆に生成元や学習データに実物を含まないという証明をできないものか。証明可能なもののみ所持は合法、証明できないものは違法性を問われる可能性あるが。

[uehaj]

違法な元ネタがあれば違法、というのは筋が通るが、元ネタ無しで生成することも原理的には今でも可能だし、実際そうだろう。存在しないものを生成する例はくさるほどあるのだ。ハルシネーションが都合よく働く例だ

[aneet]

これ、AIの規制よりも非実在児童ポルノの規制にいかんか?わいが政治家なら絶対AIの方を残すがなぁ

[rosiro]

実在の子に似てていじられるとかはありそう。 だからといって反対というわけではない。世の中が変わらなければならない（教育が）

[TakamoriTarou]

現状維持、つまり誰かに精巧に似せて書いていたり、モデルにしていたらNGでいいと思いますが。

[yamada_k]

学習データが必要で、それは所持が違法なものだから、違法な手段で作られた、とは言えるかも。／ これで犯罪者が減るか増えるかはわからないが、愛好者は増えそうな気がする。

[toro-chan]

生成AIの成り立ちを誤解してる人が多い点も気になるが、だとしても生成AIがあまりに実写に近いのであれば何らかの規制は議論すべきだと思う。対象は児童なので大人のお気持ちと一緒にしてはいけない。

[kuzumaji]

生成AIの仕組みをそもそも間違えて煽ってる米は意図してなのだろか

[airj12]

企業の責任がサプライチェーン全てに渡るように学習データに対しても責任はある気はするけど現状で罰することは難しいとも思う

[ys0000]

"実在児童のポルノ画像を学習元として参照している"とするソースが気になる。ただの印象論か生成AIの学習処理への誤解かいずれかでは？実在データでの学習を公言してるモデルがある？国外だと速攻削除されると思うが

[takeishi]

日本ではいまんとこ合法で、モデルの実在人物も存在しないやつじゃん

[Reinassance]

AI児ポは小児性愛者の欲求を満たして実在の児童に手を出さない役割を果たしてくれれば構わないけど。ただし、著名なアダルトサイトに当たり前のように紛れ込んでくるのは勘弁してくれよ。無関係サイトの閉鎖に繋がる

[XYXY]

裸の女性+服を着た子供のモデルで子供の性的画像は作れる。生成AIをアイコラ作成機だと思い込んでるアホがまだ残っていたとは/何が児童ポルノ的画像なのか明確な定義があればいいが、現状クレカ会社の一存なんだよな

[otihateten3510]

“今後議論になる可能性がある。” 議論してほしいですーって言え　／見たことあるけどかなり気持ち悪いよ、不自然な童顔成人って感じ。境界線は誰が判断するの？

[tettekete37564]

だから何？案件

[pharmalysis]

乗馬する宇宙飛行士の画像が生成AIで作られるのは、乗馬した宇宙飛行士の写真が大量に存在するからなのである。なぜなら生成AIは実在しない物を出力できないので、乗馬する宇宙飛行士は実在する。

[mkotatsu]

魔貫光殺砲風の写真に喜ぶような人類が、ポルノの時だけ賢くなる訳ないよね。相手が性行為望んでるんだからヤってあげたなんて思い込みで強姦なんて大人でもあるあるだしな。鍵垢から出てこないなら良いけど

[peketamin]

そういえば「被害者が存在しなければ問題なし」ということであれば、児童型セクサロイドも規制はされないということか。残念ながら、その先の社会的影響は未来が実現しないとわからない…。後藤隊長〜

[zenkaizenkai]

お上から強い規制が掛かる前に自主規制掛けといたほうが賢いとは思う。AV新法の二次コンテンツ版みたいなのができる前に。コンテンツは過激化していくのは間違い無いし

[meganeya3]

「実物のように見える」生成画像が罪になるのはヤバいでしょ。AI以前にリアリスティック3Dモデルはほとんど実物と見分けがつかないやつがあるんだし

[AKIMOTO]

100兆通りとか生成したら80億人類全員(つまりあなたも)の全裸そっくり画像が揃うかもしれんので、問題は実在人物と結び付ける機能や利用者になるのでは