ミッドジャーニーが生殖器官の入力を禁止、生成AIの悪用防ぐには

画像生成AI「ミッドジャーニー」で、プロンプト（指示テキスト）に生殖器官を指す言葉を使うことが禁じられていることが分かった。性的な画像や猟奇的な画像の生成を防ぐための一時的な措置だという。 by Melissa Heikkilä2023.03.01 11 5 人気の人工知能（AI）画像生成ツール「ミッドジャーニー（Midjourney）」が、人間の生殖器官に関するさまざまな言葉を、プロンプト（指示テキスト）として使用禁止にしていることが、MITテクノロジーレビューの取材で分かった。 「胎盤」「卵管」「乳腺」「精子」「子宮」「尿道」「子宮頸部」「処女膜」「外陰部」などの言葉をユーザーが入力すると、ミッドジャーニーはこれらの言葉が禁止されていると警告を出し、使用を認めない。これらの単語を試したユーザーは、禁止コンテンツの生成を試みたとして、一定期間使用禁止となることもある。一方で、「肝臓」や「

[itochan]

「悪用」ではないでしょ、法律的な倫理的な意味では。単にエロ画像ってだけ（グロは知らん）。　禁止するのは適切な処置だとは思う。より社会に貢献する利用方法が求められる。

[Seiji-Amasawa]

“ワシントン大学のチームによる研究では、こうしたAIモデルが女性を性的な対象物とするバイアスを学習し、そのバイアスが生成画像に反映されていることが判明している。”

[taguch1]

遺伝子操作とかそういう話かと思った。画像ジェネレータにエロ画像作らせるキッズ用の対策かw

[ton-boo]

🍑は生殖器官だった……？

[dekaino]

花とか花粉とかオシベメシベも禁止でしょうか?