生成ＡＩ、児童ポルノ画像を学習か…専門家「被害者の人権侵害恐れ」

【読売新聞】 画像生成ＡＩ（人工知能）の精度を上げるための学習に使われる膨大な画像データの中に、国立国会図書館が「違法な児童ポルノの恐れがある」として閲覧を禁じた写真集の一部が含まれていることがわかった。データの中にはほかにも児童の

[xlc]

ネットで学んだAIがレイシストになった、なんて話もあった気がするが。教師あり学習で教師の言うことを聞くのは当たり前。囲碁AIのようなルールを元にした強化学習ができなければ、AIは空気を読む天才に過ぎないのよ。

[smicho]

人権と政治が生成系AIの問題の核心なんで知財がどーの文化振興がどーのってのは的を外した議論なんだよね。真面目に向き合わないと創作界隈が死ぬ。

[puhu208n]

大体の画像生成AIはこのLAIONデータセットを含んで圧縮成形されており、既知の児ポを含むことは確認済み。この批判は火力不足だが、生成AIに対する問題の声が可能性の裏返しではないこと位はいい加減理解されて欲しい。

[migrant777]

どうでもいいけど全角AIとかカタカナStable Diffusionとか新聞社ルールの表記でなんとも気が抜ける。

[hatebu_admin]

どこまで事実なのか推測なのかよくわからん。元データって公開されてるの？58億のデータを悉に確認して裏付け取れたの？頓珍漢な記事を書くのが大好きな新聞記者にそんなスキル有るの？自販機破壊記事の読売やぞ？

[suikyojin]

この辺りがAIの問題。フィルターにAIを使うにしても、そのフィルターの学習をどうするかということになる。無限に遡る。しかも、AIはブラックボックスだから、意図通り学習できているか証明する方法が無い。

[straychef]

AIで事前フィルタかけて除外すればいいだろ