画像生成AIにイラストや写真を学習させることを防ぐため、「Mist」などを使って画像に敵対的サンプルと呼ばれるノイズを入れる方法があります。この敵対的サンプルによるノイズを画像から除去するためのツール「AdverseCleaner」が登場しています。 GitHub - lllyasviel/AdverseCleaner: Remove adversarial noise from images https://github.com/lllyasviel/AdverseCleaner AdverseCleanerはHugging Faceで公開されており、実際に試してみることができます。 AdverseCleaner - a Hugging Face Space by p1atdev https://huggingface.co/spaces/p1atdev/AdverseCleaner 今
クリエイターに有償でイラストなどを発注できるサービス「Skeb」を提供するスケブ（東京都港区）は3月1日、AIが生成した作品を検出するAIを導入したと発表した。SSkebでは一部または全部をAIで生成した作品を納品することを規約・ポリシー違反としている。検出AIはそれらの取り締まりを強化するために導入する。 今回導入したのは、米国のAI企業HiveのAI。クリエイター側での対応作業などは不要。 現状Skebでは月間10万枚以上のイラストが納品されているが、これまでは同社のスタッフが目視で確認していた。場合によってはクリエイターへ制作工程の調査や警告、取引のキャンセル、新規リクエストの募集の永久停止などを実施している。 同社の考えとして「AIはクリエイターを置換する技術ではなく、将来的にクリエイターの創作活動を加速させる技術になる」としており、Skebでは人間のクリエイターが直接描いたイラス
Spotify、AIが作曲してBOTが聴く不正な再生数稼ぎを取り締まり。数万曲を削除 | テクノエッジ TechnoEdge
ガジェット全般、サイエンス、宇宙、音楽、モータースポーツetc... 電気・ネットワーク技術者。実績媒体Engadget日本版, Autoblog日本版, Forbes JAPAN他 音楽ストリーミングのSpotifyが、AIで製作された楽曲数万曲の配信を停止し、削除したとFinancial Timesが報じています。 削除されたのは、AIスタートアップBoomyの作曲サービスで生成された楽曲。Boomyのサービスでは、ラップやローファイ・ヒップホップなどの音楽を簡単に作ることができ、ユーザーはSpotifyのようなストリーミングサービスに、Boomyで生成した楽曲を公開して、再生数に応じたロイヤリティ収入を得ることができます。またBoomyは楽曲のストリーミングサービスでの公開をサポートしており、対価としてユーザーのロイヤリティ収入から手数料を徴収しています。 Boomyはそのウェブサイ
コナン君に「#歌わせてみた」流行曲、実はＡＩ偽音声…困惑する声優たち「対処しようがない」 （読売新聞オンライン） - Yahoo!ニュース
生成ＡＩ（人工知能）を使い、声優らの偽音声を作り出して無断利用した動画がＳＮＳに投稿される事態が相次ぎ、当事者らに不安が広がっている。勝手に曲を歌わせたり、文章を朗読させたりしていて、専門家らは、権利の保護や悪用防止のため、ＡＩの利用について一定の規制が必要と指摘している。（福元理央） 【写真】「コナン君に歌ってもらった」とティックトックに投稿された動画 無許可 「コナン君に歌ってもらった」。今年７月、動画共有アプリ「ＴｉｋＴｏｋ（ティックトック）」などに、そんなタイトルの動画が投稿された。人気アニメ「名探偵コナン」の主人公・江戸川コナンの「声」と称して、アニメとは全く関係のない流行曲を歌わせた動画で、投稿者は「音声はＡＩで作成」としている。
AI悪用行為「i2iパクリ」はなぜ横行し、そして廃れたのか｜スタジオ真榊【AIイラスト術解説】｜pixivFANBOX
こんにちは、スタジオ真榊の賢木イオ（@studiomasakaki）です。 全体公開記事なので自己紹介しますと、2022年10月のNovelAI登場当時から100本くらい画像生成AIの記事の連載を続けている変な人です（自己紹介おわり）。今回はコラムとして、悪名高い「image2imageパクリ」（i2iパクリ、img2imgパクリ）とは何か、どうして...
Twitter上で5月22日（現地時間）、青いチェックマーク付きの複数のアカウントがペンタゴン（米国防総省）で爆発があったと主張する画像付きでツイートし、拡散した。中にはブルームバーグと関連があると思わせるアカウントもあった（既に凍結済み）。この影響で株式市場は一時的に下落した。 ペンタゴンのあるバージニア州アーリントンの消防署の公式アカウントはすぐに、「国防総省近くの爆発に関する報告がオンラインで広まっていることを認識している。国防総省近辺で爆発や事件は発生しておらず、公衆に対する差し迫った危険や危険もない」とツイートし、国防総省の公式アカウントもこのツイートをRTした。 調査集団ベリングキャットの一員であるジャーナリスト、ニック・ウォーターズ氏は、この画像がAIによって生成されたものである可能性が高いとツイートした。 数時間後にはほぼすべてのツイートは削除され、一部のアカウントは凍結さ
高精度な画像生成AIの興隆によって、近年では他人の顔を無断で使用する「ディープフェイクポルノ」が問題視されています。ディープフェイクポルノを使った嫌がらせやセクストーションなどの被害が急増している一方で、ディープフェイクポルノに関する規制が追いついていないことを海外メディアのNBCニュースが報じています。 Little recourse for teens girls victimized by AI 'deepfake' nudes https://www.nbcnews.com/news/us-news/little-recourse-teens-girls-victimized-ai-deepfake-nudes-rcna126399 画像生成AIなどを用いて写真や動画の一部を別の素材とすり替えるディープフェイクは、AI技術の発達に伴って深刻な問題となっています。メディアでは著名人や
画像生成したらコラージュだった件
本記事は、画像生成AI Advent Calendar 2022 15日目を埋める記事です。 はじめに 画像生成AIは、学習した画像をコラージュした画像を出力しているのではないか、という議論があります。多くのモデルは勝手に収集した画像で学習（訓練）されているため、そのようなコラ画像が生成されていたら大問題です。 上の図を見てください。この図は、今月投稿された論文 [1] Diffusion Art or Digital Forgery? Investigating Data Replication in Diffusion Models [Gowthami Somepalli+, arXiv 2022] の図です。上段がStable Diffusionの生成画像、下段が訓練データのサブセット（LAION Aesthetics v2 6+）中で一番似た画像です。生成画像の一部またはほぼ全部が
2019年に、FacebookがAIでプロフィール画像を合成した偽アカウントを削除したと発表したことが報道されるなど、AIは以前からソーシャルメディアの頭痛の種でしたが、これまでAI画像を見破るのは難しいことではありませんでした。ところが、リアルな画像を大量に出力できる生成AIの発達により、かつて予言されていた「生成AIが大量生産したゴミコンテンツが生身の人間の努力を圧倒する」という未来が既に現実のものとなっていると、IT系ニュースサイトの404 Mediaが報じました。 Facebook Is Being Overrun With Stolen, AI-Generated Images That People Think Are Real https://www.404media.co/facebook-is-being-overrun-with-stolen-ai-generated-
AI悪用で巧妙化する性的恐喝 存在しないわいせつ画像をでっち上げ 米国では自殺者も：この頃、セキュリティ界隈で 大学進学を楽しみにしていた17歳の男子高校生は、米オハイオ州の自宅で2022年11月に自らの命を絶った。同年7月には、やはり17歳の男子高校生がサウスカロライナ州の自宅で自分を撃って自殺した。2人とも、わいせつ写真や動画を暴露すると脅して金銭などを要求する性的恐喝「セクストーション」の被害者だった。 AIを使って本物と見分けがつかないような偽コンテンツが簡単に作成できるようになった今、そうした恐喝の手口がますます悪質化している。SNSなどに掲載された無害な写真や動画を合成してディープフェイクのわいせつ画像をでっち上げ、脅迫に使う手口が横行しているとして、米連邦捜査局（FBI）が注意を呼びかけた。 誰にも相談できず、脅迫が続く セクストーションの犯罪は、加害者がSNSなどで被害者に
Microsoft Bingの画像生成AI機能では禁止ワードの「9.11」とカービィやスポンジ・ボブなどの人気キャラクターを組み合わせた画像が簡単に作成できてしまい人間の制御できる範疇を超えてしまっているとの指摘
Microsoftの検索エンジンであるBingには、画像生成AIを用いた「Bing イメージクリエーター」という機能があります。この画像生成AI機能では暴力・テロリズム・ヘイトスピーチなどに関するプロンプトが利用できないようにブロックされており、Bing イメージクリエイターの使用に関するポリシーでもこれらのコンテンツの作成は明確に禁じられています。しかし、ユーザーはBing イメージクリエーターを使って禁止されているはずのコンテンツを簡単に作成することができており、もはや人間の制御できる範疇を逸脱してしまっていると、メディアが指摘しました。 Bing Is Generating Images of SpongeBob Doing 9/11 https://www.404media.co/bing-is-generating-images-of-spongebob-doing-9-11/
「AIのトレーニングに楽曲が使用されるのを阻止してほしい」とユニバーサルミュージックグループがSpotifyやApple Musicに要求
近年は画像や文章を生成するAIの登場が大きな話題を呼んでいますが、その裏では既存の仕事がAIに奪われるという懸念が浮上しています。既に中国のゲーム業界からは「AIに仕事を奪われてしまった」という声が上がっているほか、サイバーセキュリティ専門家の多くが「2030年までにAIに仕事を奪われる」と予想しています。新たに、国際的な音楽企業であるユニバーサルミュージックグループが、SpotifyやApple Musicなどの音楽ストリーミングサービスに対し、AIのトレーニングに楽曲が使用されるのをブロックするよう指示したことが明らかとなりました。 Streaming services urged to clamp down on AI-generated music | Financial Times https://www.ft.com/content/aec1679b-5a34-4dad-9fc
AIイラストを複雑な呪文で生成する時代は終わるかも？構図やポーズを指定して画像生成できる『ControlNet』という機能が登場
うみゆき@AI研究 @umiyuki_ai ジェネレーティブAIを研究してAIアニメキャラを錬成します。 本垢は@_darger Discord「ジェネレーティブAI友の会」discord.gg/TvmnwR5Mhf soysoftware.sakura.ne.jp うみゆき@AI研究 @umiyuki_ai はい、ゲームエンド。ハッキリ言ってControlNetの登場によって、今までの画像生成での複雑な呪文を試行錯誤してガチャ引きまくって何とかするパラダイムは試合終了しました。これからはプロンプトフリーになって、ボーンで直接構図やポーズを指定するAIレンダリングのパラダイムの始まりや pic.twitter.com/st4tJMZIfo 2023-02-15 15:07:17
クリエイター支援業のシアン（東京都渋谷区）は5月30日、AIを活用するクリエイター向け作品投稿サイト「petapi」のβ版を公開した。AI生成コンテンツやAIへの指示文（プロンプト）を販売できる他、将来的には追加学習でAIの生成結果をコントロールする「LoRAモデル」も販売できるようにする。利用されると制作者に収益の一部を還元する仕組みも備える。 当面はAI生成画像とプロンプトの投稿、閲覧、販売のみ。今後は動画や漫画、テキスト、音声、LoRAモデルの販売にも対応する。販売方法は作品単体に価格を付ける単品販売と、サブスクリプション形式。クリエイターに作品制作を有償依頼する仕組みも作る。 販売したLoRAモデルやプロンプトを使って第三者が作品を作り、販売した場合には、収益の一部をLoRAモデル・プロンプト制作者に還元する。 シアンは「AI生成コンテンツの投稿が制限されたり、おすすめに表示されに
AIを使って作られたコンテンツが次々に生み出されていく中、クリエーターを対象に業界団体が行ったアンケート調査で、9割を超える人が「AIによる権利侵害に不安がある」と回答したことが分かりました。 アンケートはAIの急速な普及を受けて、俳優や音楽家などで作る日本芸能従事者協会が、今月8日からインターネット上で実施しているものです。 協会は15日、今月14日の時点で、イラストレーターを中心に声優や漫画家など、2万5560人が回答した中間結果を公表しました。 それによりますと「AIによる権利侵害などに不安がある」とした人が94％余りに上り、「仕事が減少する心配がある」と回答した人も58％余りいました。 具体的な権利侵害としては ▽画風を盗用されたといったもののほか ▽公表した漫画がAIが学習するデータとして勝手に使われていた ▽2次利用を禁止して公開した自分の声が、AI加工のモデルとして無断で販売
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
AIによる学習を妨害する敵対的ノイズを画像から除去できる「AdverseCleaner」を使ってみた
Skeb、AI画像検出AIを導入 取り締まり強化へ 「AIはクリエイターを置換する技術ではない」
AI生成？ 「ペンタゴンで爆発」画像で株価下落 Twitterで青バッジアカウント複数が投稿
会木 on Twitter: "「邪神ちゃんドロップキック」の作者ユキヲ先生 AI絵師に対して素朴な疑問をツイートする 気に食わなかったのかAI絵師がブチ切れ お気持ち全力投入で叩いてしまう ユキヲ先生謝罪へ https://t.co/ZLza2mclIu" / Twitter
AIで顔と裸を合成する「ディープフェイクポルノ」の被害に遭った女子高生たちにほとんど救済の道がないことが問題に
Facebookは既に画像生成AIが作ったパクリ投稿で埋め尽くされている
AI悪用で巧妙化する性的恐喝 存在しないわいせつ画像をでっち上げ 米国では自殺者も
写真素材サイト大手がStable Diffusionを提訴。「1,200万枚以上の写真を無断で複製」
AI作品の販売に特化したサービス登場 LoRAやプロンプトも対象 二次利用で収益還元の仕組みも
“AIで権利侵害” クリエーターの9割超が不安 業界団体の調査 | NHK