焦点：アマゾンがＡＩ採用打ち切り、「女性差別」の欠陥露呈で | ロイター

［サンフランシスコ １０日 ロイター］ - 米アマゾン・ドット・コムAMZN.Oが期待を込めて進めてきたＡＩ（人工知能）を活用した人材採用システムは、女性を差別するという機械学習面の欠陥が判明し、運用を取りやめる結果になった。 １０月１０日、米アマゾン・ドット・コムが期待を込めて密かに進めてきたＡＩ（人工知能）を活用した人材採用システムは、男性を偏重するという機械学習面の欠陥が判明し、運用を取りやめる結果になった。写真はフランスで８月撮影（２０１８年 ロイター/Pascal Rossignol） 事情に詳しい５人の関係者がロイターに語ったところでは、アマゾンは優秀な人材をコンピューターを駆使して探し出す仕組みを構築するため、２０１４年から専任チームが履歴書を審査するプログラムの開発に従事してきた。 そこで生まれたＡＩ活用の採用システムは、あたかもアマゾンの仮想店舗の格付けのように、応募者を

[okemos]

差別的なデータからは差別的な結果が出ると。

[mori99]

↓途中で説明があるが、単純に性別を抜いても、経歴にチアリーダやガールスカウトがある、女性比率の高い大学出身とか、どの項目をどこまで排除すれば性差を抑制出来るか確信が持てないので諦めた、と。

[takeishi]

誰がAIに採用すべき人材を教えるんだ問題勃発

[KKElichika]

採用でAIに依存すると統計的差別につながるリスクは以前から各所で指摘されていたと思う(確か人事評価とかも)。データから性別を除いたところで統計的差別は排除できないんじゃないかなと思うんだけど…

[hisawooo]

もしかしてアマゾンのおすすめ（購入履歴と似たような商品が出てくるやつ）アレ使ったのでは…

[synonymous]

社会を保守的にするのにAIは有効な気がする。

[master-0717]

機械学習使うなら採用からn年後の評価の予測で良いんじゃ。そしたら教師データのスコアは過去に採用したかどうかじゃなくて採用からn年後の評価になる。

[mahal]

逆に本朝で人事の中の天然知能さんに話聞くと「女子の優秀さ」という話が一様にってくらい出て来る現象と、ある種の好対照をなす感じなのが面白い。まぁ何れにせよ、選好の理由を説明出来ないのに使うのはリスクよね

[ChieOsanai]

Garbage in, garbage out

[mkusunok]

学習データに偏見が含まれていると、学習モデルにその偏見が刷り込まれてしまう問題。HRTechでは避け難い課題で、機械を通じて人間の偏見が再発見されている

[sakahashi]

“１０年間にわたって提出された履歴書のパターンを学習させたためだ。つまり技術職のほとんどが男性からの応募だったことで、システムは男性を採用するのが好ましいと認識した”

[kechack]

これはコンピューターモデルに１０年間にわたって提出された履歴書のパターンを学習させたためだ。つまり技術職のほとんどが男性からの応募だったことで、システムは男性を採用するのが好ましいと認識したのだ。

[kumicit]

過去データを正解とする機械学習で、過去データに存在する未知のバイアスを排除するのは無理ゲー。

[kk_solanet]

結局、まだ今の段階では人間がやって来たこと以上のことはできないんだなあ。

[harirkiruka]

焦点：アマゾンがＡＩ採用打ち切り、「女性差別」の欠陥露呈で

[hiro-okawari]

“アルゴリズムの公平性や説明性をどうやって担保するかに向けた道のりはなお遠い”

[h5dhn9k]

偏見や差別では無い可能性もあるのでは…。/ イヤ、AIの判断に差別や元データに偏見が無いってんじゃなくて。それでもAIの判断の方が人間よりマシな可能性はあるんじゃないの？…　比較検証しない事には何とも…

[filinion]

「性別が『女性』だと不利に」「ヒスパニック系の名前は不利に」といった懸念から「性別や名前のデータは与えない」という対策がされていた。しかし「女子チェス部」「チアリーディング部」が不利になっていたと…。

[manaten]

既存のデータから学習してるから、既存の枠からは超えられない的なー

[tick2tack]

”保証はない”　AIのブラックボックス性ゆえ、問題があるかどうかを人が認識・判断できない。無いことを保証できない、ってなんか悪魔の証明っぽい。/　自動運転の責任問題もだが、倫理っぽいとこで躓いてる

[houyhnhm]

Amazon、過去の悪行が暴かれてる。／多分人種とかはヤバ過ぎて言えないんだろうねえ。

[soyokazeZZ]

あきらめたらそこで試合終了だよ

[coinlocker]

平等な評価と公平な評価は違うという話では。

[dgwingtong]

AIの出した結果しか分からないのだから推論は不明。なら最終的に応募者の男女比率で合格者の男女比率を出してフィルタすれば良いだけじゃん！

[hoihoitea]

AIって統計を基に判断を下すのだろうけど、集団の傾向を個人にぶつけるならそれは偏見と変わらないと思う。

[songe]

こんなの当たり前だろ。仕事に対するモチベーションが男女で違いすぎるんだから。

[jou2]

AIを採用した時に理想とした「過去の業務を引き継ぐ事」に成功できててなんでやめてんだよ

[nankichi]

AIのせいか？学習データセットがダメだった＝amazonの採用がだめだった、ってことじゃないの？

[dorokei]

学習データは採用された人間の履歴書データでそこに類似するかみたいな評価方式なのかな？落ちた人を含む全てのデータや働き始めて数年後の評価とかいれてもだめなんかね。

[rryu]

女性の採用件数が少ないせいで学習データに偏りができ、男性が書かないような内容があると評価が下がってしまうと…

[itochan]

介護保険の導入のとき、「等級の審査はコンピュータが判断するので完璧です」ってマスメディアを通して言ってたのを思い出す。ばか？と思った記憶。

[ystt]

Garbage in, garbage out

[otihateten3510]

忖度AIを日本人ご開発すればいい

[umai_bow]

一番の問題はバイアスがかかっていないデータを使っても差別的な結果を吐き出してしまう可能性があることでは

[udonkokko]

性別に関わるような部分を黒塗りするなり、データとして利用しないように学習させるんじゃあかんのか。あかんのやろな。

[Hamukoro]

神様扱いされがちだが、どちらかというと超平均って感じだからな。

[Dragoonriders]

与えるデータに方向付けられてしまうのは、なんかありがち。確か、会話AIがヘイトし始めてすぐ終了になったのもあったよな。業務的に取りやめるはいいんだけどさ、ちゃんと検証して何が悪いのか解明してよ、と思う。

[koyancya]

統計的差別問題

[ardarim]

これはAI悪くない。サンプルとして入力したこれまでの採用傾向が偏っていただけ/ 経歴は技能に無関係で、採用で考慮すべきではないという知見は得られたな

[deep_one]

「つまり技術職のほとんどが男性からの応募だったことで、システムは男性を採用するのが好ましいと認識したのだ。」機械学習式の欠点はサンプルにある。