【艦これ】画像生成AIが学習元のサインまで復元してしまう

サガシモノカモ @sagashimonokamo 1年前、艦隊これくしょんのプロンプトで出力してるとえびふりゃさん(@ ebihurya332)のサインが出てくるという噂があった。 その時はプロンプトの指定で出てくるという話だったが。 今になってV3で検証、10回やって全部出てきた。 昔は読めなかったIDも鮮明に読めるようになった。 やってるねえ pic.twitter.com/ORu3bXk5Kr 2023-12-17 18:02:57 サガシモノカモ @sagashimonokamo 強調{}が問題であるという意見があったので補足。 無くても出ます。 10回出力して全てに再現されました。 サインを書かれている絵師様なら別の方でも再現可能です。 サインは１０枚の内鮮明なものを参照。 プロンプト 1girl,ebifurya,kantai collection ネガティブプロンプト 無し

[Mirunayo]

“人の絵柄パクって人のサイン入れてもAI生成なら許されるのか 人間がやったら絶対許されなさそうだけど” ここ同意

[sirobu]

そらAIは名前のタグが付けられた学習元画像の特徴に似せようとするんだから、サインが全ての画像に入ってたら出力する画像にも入れるだろ。AIはサインを理解できないので公開するかは出力させた人間が決めること

[colonoe]

生成AIにも問題はあるんだが、反AIがこのレベルなので有意義な話が全然できない

[hate_flag]

こんなのは生成AIではない。模倣AIにすぎない。そして学習素材にされたebifuryaさんは一銭も儲からないってのおかしくないか？

[chibatp9]

Togetterのコメ欄に出没するようなAI推進派は著作権のことまるで分かってないことが良く分かるまとめ。自作発言するわけでもない、検証のための最小限の利用すらNGならトレース検証の重ね合わせすら出来なくなるぞ。

[yas-mal]

プロンプトに「ebifurya」ってあるから、言われたとおりにサインを再現したのか。AIさん、スゴいな。…あとは人間の使い方次第だよね。

[ivory105]

そら出るやろと思うけど人間と同等に学習して考えて出してるって思ってる人もいるんだよな。基本的にはパクリだよね。誰でも自動でパクれるからすごいのである

[totoronoki]

このサインの人本人がAIへの学習を禁止しててサインが出てくるなら、「学習画像に使ってる」とほぼ見なせるし、それは問題だけど。

[yujimi-daifuku-2222]

自分では商業作品を食わせてなくても、大元の学習データがクリーンでないとこの手の問題が起きる。/Adbeもクリーンではないのよね。困った事に。

[iksmpic]

AIも人間も覚えた画像やサインを書けって指示したらそのまま出るでしょ。まずいイラストは公開を控えるのが指示した側の仕事。AIやツール（や、書いた人）のせいにするのはずれている。

[splaut]

学習の仕組みの問題じゃなくて寧ろ使い方の問題なんだよな。そりゃ作者名指定したらそうなる。

[masahiko_of_joytoy]

生成AI自体は確率的に画像を生成してるだけなので罪は無いんだけど、同一モデル・同一プロンプトで再現できるようになったら、生成して共有した人が罪に問われる可能性がある。なのでXに上げるのも結構危険な行為

[Hondara6]

反AIは結論ありきで排除を正当化しようとするから毎回とんちんかんになる。学習したら同じようなものが描けるのは絵師が使うクリスタも同じです

[yarumato]

“10回出力して全てに再現されました。サインを書かれている絵師様なら別の方でも再現可能です。”

[pokemix]

絵や写真を学習したAIで絵や写真を出してはいけません、出せません（解析に使うのはOK）とならないのは何でなんだ？普通に競合で利益侵害になるだろう。

[felick]

生成AIの大前提として学習元をそのまま記憶して出力してるわけではないってのがあると思うんだけどこうなってくると前提崩れてるよなあ。生成AI通してるからなんでもヨシとはさすがに言えないでしょう。

[deb]

何が問題なのかわかんないんだけど、後からちゃんとサインだと学習させて、そのプロンプトに含まれる概念だけを削除する事ができる論文も実装もあるよ。雑に学習させたのが問題ってこと？

[Imamura]

生成した画像の扱いは生成させた人が責任を負う、でいいと思うんだけど。ジャイアンシチューの材料やレシピを載せて、ジャイアンシチューを作る人がいるから鍋を規制しようみたいな話をしてない?

[neko_8_8kun]

そんでプロンプト指示だけで、えびふりゃさんが描かれた既存の絵と酷似したAIイラストは出てきたの？

[tomoya_edw]

サインと絵柄を丸コピして他の絵師の癖ちょっと混ぜたとか、AIだったら学習だしヨシとかなるわけがない。やっぱり他人の作品を食い物にしているとしか思えん。個人で～とかもそれでどっか利益出てたら食い物やん？

[quwachy]

反社AIがフルボッコにされててワロタ。学習するのと生成するのは問題ない、公開したらその時点でアウト。手書きもAIも関係ない。

[oisux]

「トレース検証の重ね合わせ」とやらはそんなに正当ではないと感じる、少なくとも画像生成AIよりはアウトでは

[mag4n]

真空パックの文脈で吹いたw／似せて書けって指示して書けたので騒ぐというアホみたいな話

[nanomatel]

商用可能ツールにも関わらず作家名をプロンプトにするだけのお手軽さでサイン再現するほど集中学習した絵柄の模倣ができてしまうの、「他人の絵柄で金を稼ぐ」行為のへ動線化してて流石に駄目だと思う

[cvtbgspuda]

生成AIがサインをサインと、ロゴをロゴと認識できるようになれば何とでもなる。生成物は生成者の責任で公開されるだけ。指示通りにサイン復元は人間でもできるでしょ。

[rax_2]

novelAI v3生成の画像をよく見るようになったけど、学習元のサインとかタイトル画像の再現もしっかり出てるんだよね。

[hakyu]

ebifuryaのプロンプト→@ebihurya332のサインなんで、完全に画像の一部として認識してますね

[enderuku]

生成する時にSimple background って入れると消せるよ

[hinonono]

生成AI流行初期に確認も対処もされた。明確に似るハリウッド俳優等は語が無視されることもあるし少なくとも3語以上で混ぜる、サインや額縁にネガティブ等。何年遅れまで行く気?/トレス検証等で名誉毀損314万の判例有り