Metaの画像生成AIは「アジア人男性と白人女性のカップル」をイメージできないという報告

Metaは画像生成AI「Imagine」を無料で使えるウェブアプリ「Imagine with Meta AI」を公開しています。The Vergeの記者がこのImagine with Meta AIで「アジア人と白人のカップル」を生成しようと試みたものの、成功しなかったと報告しています。 Meta’s AI image generator can’t imagine an Asian man with a white woman - The Verge https://www.theverge.com/2024/4/3/24120029/instagram-meta-ai-sticker-generator-asian-people-racism 以下が実際にThe Vergeのミア・サトウ記者が生成した画像の例。「アジア人の男性と白人の女性」の組み合わせをプロンプトで指定していますが、男

[mobileprince]

AIのアンコンシャス・バイアスを直視することで、我々のアンコンシャス・バイアスにも気がつく事ができる…

[hobbiel55]

学習元のデータにそういう組み合わせの写真があまり無かったんだろうなあ。この場合、批判されるべきはAI自体ではないだろう。

[hate_flag]

AIに「成功者」と入力するとスーツを着た白人男性の画像が出力される。現実がそうだから。「テロリスト」と書くとアラブ系男性の画像が出力される。現実がそうだから。AIは現実社会にある差別から学習してしまう

[lamrongol]

画像生成「AI」の差別と「しょうもなさ」両方を表す事例

[lainof]

そもそも画像生成AIは複数人を出力する際、個々に細かい指定をしても反映されなかったり、全員に反映されたりするからな〜。

[sds-page]

プロンプトは画面全体に効くから複数人の細かい書き分けが難しいんよな。どうしても出したいならRegion Prompt Control使えって話になるが。あとはそういうカップルと専用のタグ付けたデータを大量にぶち込むか

[hinonono]

「ニューラルな」AIは鏡「ではない」。多い要素は超多く、レアな要素は消える。プロユースなら別々に出力し繋げるなど別の手段を併用すべきだし、一般向けにバランス調整をかければ別のバランスがしわ寄せで狂うのだ

[quwachy]

だから国産のAIを作らなければいけない、文化が破壊される

[kaz_the_scum]

AMWFという検索ワードしか浮かんでこないよ。

[misshiki]

“Metaは画像生成AI「Imagine」を無料で使える「Imagine with Meta AI」を公開しています。The Vergeの記者がこのImagine with Meta AIで「アジア人と白人のカップル」を生成しようと試みたものの、成功しなかったと報告しています。”

[puhu208n]

これは地球の半分くらいをひっくるめている「アジア」という単語そのものが悪い ＞たとえば、インドが世界で最も人口の多い国であるにもかかわらず

[ookitasaburou]

“The Vergeの記者がこのImagine with Meta AIで「アジア人と白人のカップル」を生成しようと試みたものの、成功しなかったと報告しています。”

[richmikan]

AIはまだこどもみたいなものだから、それに目くじらを立てるのは、こどもに目くじらを立てるのと同じで、大人げない大人。

[omega314]

こんなもんを脅威に思う必要は無い。

[businessart]

くだらない。そもそも主体と客体を区別できない場合も多い。単にプロンプトの解釈の問題。例えそうでなくてもくだらない因縁つけてギャーギャー言ってんじゃねえよ。それくらいの思考しかできないんだろうけどさ。

[ivory105]

存在しない女性日本兵が出てくる！って話あったから普通に組み合わせて出せそうなものなのに余程無理って事なのかな。女性兵士はフィクションの画像がたくさんあるがカップルはフィクションの画像すらないとか？

[rt24]

とりあえずザッカーバーグの家族写真を大量に読み込ませれば白人男性とアジア人女性のカップルは出力できるようになるかもしれないな

[jamira13]

AIは鏡

[ToTheEndOfTime]

AIにもコンプライアンス意識を高めていただく必要があるんですね

[oisux]

アジア人がアジア人らしい・白人が白人らしい見た目でないといけないというのも一種のバイアスかもしれない(てきとう)

[shinobue679fbea]

クソワロ