「モザイク画像の解像度を64倍にする研究」が人種差別の議論に発展、非難を集めた研究者はアカウントを停止

計算機科学の分野において功績を収めた人物に贈られるチューリング賞を2018年に受賞した、Facebookの人工知能部門におけるチーフ研究者、ヤン・ルカン氏は、人工知能および機械学習における人種差別の議論で多くの非難を受け、Twitterアカウントを停止することを発表しました。 Yann LeCun Quits Twitter Amid Acrimonious Exchanges on AI Bias | Synced https://syncedreview.com/2020/06/30/yann-lecun-quits-twitter-amid-acrimonious-exchanges-on-ai-bias/ きっかけは2020年6月20日に、デューク大学が人工知能アルゴリズムを用いた高品質の画像生成に関する研究結果をTwitter上で公表したことから始まりました。 Face Depi

[igni3]

人間の脳がモザイクからオバマだとわかるのは、知ってる有名人の顔から近いものを選んでるだけでモザイク除去能力が大きく優れているわけではないよ

[dame_maru]

技術と人種差別は違うフレームにあるべきだと思うんだけどなぁ

[nyakapoko]

"You can't just reduce harms caused by ML to dataset bias." を「機械学習によるデータセットの偏りを単にへらすことはできません」は明らかな誤訳。「機械学習により生じる被害を単なるデータセットの偏りの話に矮小化するな」くらい

[ite]

この場合、偏見を持ってるのは人間の方。大抵の人間はオバマの顔を何度も見てるから、統計的な推測よりも強くオバマ的な顔を想起する。モデルがおかしいなら黒人のデータを追加すればいい話で、それは差別とは無関係

[dominion525]

「現時点における技術上の限界」みたいなのを、"政治的な理由"で攻撃して溜飲下げる人何なん？ 今後頑張りましょう、ってだけなのに。

[mur2]

“バラク・オバマ前アメリカ大統領のモザイク画像を変換した人が、オバマ氏の顔が正しく復元されなかったことに疑問を呈しました。” 意味がわからない…

[tyoro1210]

サービスとしてやったら問題あるだろうけど、研究過程のデータソースなんて入手が容易なもの になるだろうし、日本でやったら日本人の顔になるだろうよ…… / 技術発展にブレーキかけないで欲しい

[mazmot]

しかし、オリジナルの低解像度の写真を見てオバマ氏だとすぐにわかる人間の脳は凄いわ。とはいえ、いまのCPUの演算能力なら、そこに追いついてデータセットを選択するアルゴリズムを加えても、何の苦もないだろうな

[misomico]

データセットの偏りは研究者の責任ではないにしても、"注釈"をつけるのを忘れると非専門家は簡単に誤解するし、政治的に利用されかねない。

[north_korea]

オバマの例で「オバマにならないといけない」となぜ決めつけるのか分からない。モザイクオバマに最も近い他人の画像がデータセットに存在しただけの話ではないか。

[zzz_zzzz]

最近のスマホアプリが撮る「嘘の月」の話題から、「そういえば」と、AI補正がつくりだす白人青年化した「嘘のオバマ大統領」をようやく思い出せたのでブクマ。

[younari]

難癖つけてるようにしか見えねーな

[mohno]

「ヤン・ルカン氏は、人工知能および機械学習における人種差別の議論で多くの非難を受け、Twitterアカウントを停止」「オバマ前アメリカ大統領のモザイク画像を変換した人が、オバマ氏の顔が正しく復元されなかった」

[ys0000]

推定関数は学習したデータセットに依存するのだから、ある程度のバイアスは仕方がない。肌の色については学習したデータセットが人種を考慮していなかったという話だと思う。しかし特徴の再現がイマイチね。

[liposo]

めんどくせぇ…と思ってしまうが必要な配慮なのかなぁ

[metalsnake]

勘違いしてる人いるけど、これは「復元」する技術じゃなくて低解像度画像から「生成」する技術だからね？生成した画像の解像度を下げたときに低解像度画像と一致すれば成功なんだよ

[t-sat]

問題は、未検証で"もしセネガルのデータセットで～"と言っちゃってるとこでしょ? この件では無害だとしても、顔識別ソフトが「白人で上手くやってるから他も上手くいくはず」という態度で作られてたら怖いわ。

[katzchang]

resultの方にモザイクをかけると、ヒューマンは「これはオバマだ」って思うのかが気になった

[gabari]

researcherはいいだろproductで考えろみたいな雑な発言が一番ダメな気がするな。この種のAIは差別を拡大する方向に進みやすいし。

[Louis]

なんかこの話題をギガジンが報じることの違和感

[sadamasato]

「技術は差別と無関係」という素朴な信仰と、とにかく差別を温存して差別する自由を残したい差別主義者で溢れるブコメ。非倫理的で排他的な宗教国家日本にふさわしいブコメ群だなぁ。

[aox]

https://i.imgur.com/9LIgaIE.jpg

[yamada_k]

学習したモデルを公開したりサービスで利用したりするなら問題になるかも。論文の実験だけの話で、白人であることに依存した手法でもないなら、許容してよいような。多様性のあるデータセットが使えればそれがベター

[adsty]

「復元」ではなく「新たな画像の生成」の技術において多くの非難を受けた。

[fut573]

完璧なデータソース無しでは研究できないハードルで中国に負けるやつだ。

[yooks]

AIに与えたデータセットの偏りと、人が持っている知識の偏り方が違うというとこでは。AIに与えられるデータセットには、人の持つ一般知識や普遍的知識みたいなものがないままなので、狭い範囲に収束するのかなー

[ebmgsd1235]

これはデータ選択の問題ではないでしょ。人種の多様性を考慮しない安易なサンプル取得が原因。AIがこの種の偏りを増幅してしまうのは仕方ない事。機械学習のシステムに倫理的なベンチマークを吹き込むのはこちら側。

[synonymous]

GIGO

[zazenzazen]

アメリカポリコレの悪い所盛り合わせセット

[baseb]

アメリカ人頭おかしすぎて草ァ！！！

[estragon]

教師データが偏ってたからだけじゃないよって批判なのか。そもそも機械学習プログラムが白人の顔に最適化されるように作られてんだろ、教師データだけのせいにすんなと。

[udongerge]

AI技術とは別に、肌の色を読んで人種的特徴に寄せるアルゴリズムは作れると思う。モザイク写真を見れば誰だってバラク・オバマと思うのにコンピューターには予測できない仕組みがわかればシンギュラリティが近づく。

[Gelsy]

きれいなジャイアンを生み出すひみつ道具に応用されるはずだった世界線が途絶えた。

[z1h4784]

GAN系の技術はあまりにも悪事への応用が容易すぎる。倫理面からの議論は必須。技術の発展は何であれ止めるなと言う人がいるけど、より強力な核兵器を開発しようとする技術者がいたらそりゃ止めるでしょ

[kangiren]

なんか、赤狩りを訪仏させる物がある。大丈夫なのか？

[modex]

Googleの技術は黒人の写真にゴリラとタグ付けし、Amazonの技術は加州議員を犯罪者と識別した。研究は進められていくべきでも、学習データやターゲティング次第で危険を孕む。安易に広範な利用が推進されるべきではない。

[xufeiknm]

こんなことやってる間にあの国は数億の人間を監視するシステムを進化させ、少数民族の人体実験で科学を推し進め、世界に蜘蛛の糸を張っている。BLMによって暗黒の中世が再現されるのか。

[enkagin]

またゴリラの話になるのか

[avictor]

すりガラスの向こうの顔を類推して描くソフトやろ。用意した正答例が全部日本人だったらオコエの顔をボカシた場合でも、復元予想はチンギスハンぽい顔になると思うよ。文句つける学者が過敏な正義マンやと思う。

[camellow]

差別問題を扱う人のはたしてどれだけが本当に差別されてる人のために活動してるのだろう。誰かを攻撃するためや自分のプレゼンスを向上させるため、承認欲求を満たすために活動してる人が大半なのではないか？