アメリカで人種バイアスが入ったデータをもとに作った犯罪予測AIが人種差別的で問題だという話 - Qiita

人種差別の慣習をもっている組織が作ったデータにはやはり人種差別なバイアスが入り込んでしまうわけで、そんなデータをもとに作った機械学習のモデルは、例えどんな高度なアルゴリズムやテクニックを適用したところで、人種差別的なものになってしまうものです。 アメリカでは人種差別的な慣習を持った警察がよく問題になることがあります。特に南部や中西部の方に行くとひどかったりします。 現在そういった組織が過去に記録したデータをもとに、犯罪予測システムを作り、そこから出てくる予測をもとに捜査を行ったり、容疑者の扱いや刑罰の決定を行ったりということがすでに行われ始めているようです。 今から20年近く前に、トム・クルーズ主演の「マイノリティ・レポート」という映画がありましたが、まさにこうした犯罪予測システムによって間違って逮捕されてしまうという話の映画でした。 20年たった今、こうした問題がいよいよ現実になってきた

[mather314]

“いわゆる「テック・ウォッシング」ということが起きています。こうしたシステムを使う人達はそれがコンピューターなので、中立または客観的だろうという仮定のもとに使ってしまっているのです。”

[fn7]

日本に導入された時にどうなるかも気をつけないといけない。

[roirrawedoc]

ふーん…

[m_insolence]

]