WEB特集 ＡＩがあなたを差別するかもしれません | NHKニュース

就職情報サイト「リクナビ」の運営会社が、学生の内定辞退率を企業に販売していた問題では、利用者のプライバシーの問題に関心が集まりました。 しかし、各企業が学生のデータをもとにＡＩ＝人工知能で採用の可否を決めるようになったら、何が起きるのでしょうか。あらゆる分野でＡＩ＝人工知能の活用が進むなか、アメリカでは“ＡＩのバイアス”の議論が始まっています。そこから見えてきたのは、ＡＩが社会の差別を再生産するかもしれないという危機感です。 （国際部記者 曽我太一）

[youichirou]

某特任准教授氏は本来ならこういう特集でインタビューを受ける方の立場であって、文中にあるように様々なバイアスを否定していかなければならないはずなのに、自分から率先して差別発言してたもんなぁ。

[fai_fx]

ＡＩを人事に使う限り、統計的差別は避けられない気がする。統計から予測される人物像から外れた部分に位置する人は差別を受けたと感じるのでは・・・

[regicat]

（AIじゃない。あなたが、差別するのでしょう？）

[Panthera_uncia]

リクナビはAIじゃなくて個人情報利用の問題だろ

[daybeforeyesterday]

うーむ

[quick_past]

そらそうよ。としか言いようがない。学習させてるのは人間なんだし。

[ytRino]

食わせるデータの偏りが次の偏りを生む話。専門的な正確性はさておき話としてはまあ

[reihighjcj6a]

普通に人間よりマシならいいんじゃない？って思っちゃうんですけどね。人間自身の偏見には生物的な部分もあるので何十年となかなか修正できるものじゃないけど、データはその点修正しやすいですし。

[osugi3y]

マイクロソフトはテイを生み出した過去がありますからね。　　https://www.buzzfeed.com/jp/sakimizoroki/microsofts-ai-chatbot-into-a-neo-nazi-jp

[beginnerchang]

AIは差別自動化装置だってそれ一番言われてるから…

[rti7743]

弱者切り捨てたほうがその場のコスパは安くても、人間としていろいろダメだから憲法と法律でそれはダメだと縛ってるように、AIも差別はダメと縛っていくんだろうな。

[xlc]

教師ありの機械学習は「教師の意図を読む」ことしかできない。なので教師が差別的なら導き出される答えも差別的となる。つまり世の中が差別的であると言っているに過ぎない。囲碁AIとかは教師あり学習をやめたはず。

[programmablekinoko]

データから帰納的に導き出した答えに過ぎない。AIというとまるで機械が思考してるかの様に誤解されるので努めて機械学習と呼ぶべき

[kei_0000]

黒人や低所得者は犯罪率が多いという前提の元AIを設計→そのような地域に警察官を多く配置→その地域の方が多く逮捕→最初の前提が過学習される、とのこと。これ人の思考パターンと同じでは。AIは人より賢くないとね

[ryunosinfx]

ようやく、出てくるべきものが出てきた感。

[kjin]

“。現場でＡＩのシステムを活用する人が設計段階から携わっていれば、あまりにも何が起きているかわからないというようなシステムを作ることは避けられると思います」”