AI専門家が指摘。人間の差別や偏見がアルゴリズムに反映されるとき

AI専門家が指摘。人間の差別や偏見がアルゴリズムに反映されるとき2018.01.04 21:009,331 Rina Fukazu 機械も偏見も、元をたどれば人間が作ったもの。 AIがどんなに早く進化し、どれほど私たちの生活に馴染もうと、開発者である人間の現実社会にある差別や偏見を乗り越えることはできない…。そう説くのは、Microsoft研究者でAIの社会的影響を研究する機関AI Nowの共同創設者、Kate Crawford（ケイト・クロフォード）氏。 先日行なわれた機械学習の国際会議NIPS（Neural Information Processing System Conference）で、アルゴリズムの偏見がもたらす多様な問題をテーマにした基調講演で登壇した彼女のスピーチが反響を呼んでいます。一体どんな内容だったのでしょうか。 ｢偏見｣は機械学習において数学的に定義づけられており、

[paravola]

（人間の偏見が反映されたのか）彼女は銀行のAIが「女性に限って申し込みを断る」といった例をあげたほか、危険度を測るAIが黒人犯罪者を白人犯罪者よりもリスクが高いと判断してしまう例まで

[braitom]

この問題難しそうだな。

[arajin]

“「偏見」は機械学習において数学的に定義づけられており、サンプリング時に推定との誤差や特定の人々を過剰／過小評価している点から反映されています。”

[sky-y]

“何よりも人間がつくった「偏見」を機械がこれ以上学習することのないように、今こそ地道で人間的な取り組みが求められている”