タグ

ビッグデータと差別問題に関するumetenのブックマーク (1)

  • 君が犯罪に走る確率は…米警察で導入「犯罪予測アルゴリズム」の功罪(堀内 進之介)

    ビッグデータとアルゴリズムの組み合わせによって、ある人が「犯罪者になる確率」を予想できるシステムが、シカゴ警察で導入されている。 たしかに治安は改善するかもしれない。しかし、そこには思わぬ落とし穴がある。システムが差別を助長し、再起の可能性を奪っていく──ビッグデータ社会の「暗部」が見えてきた。 ビッグデータで「犯罪者候補」が明らかに 普段通りの生活を送っていると、ある日、突然警察官がやってきて「このままだと余生を塀の中で過ごすことになるぞ」と警告される。 またある人は、「生活環境を変えないと大変な被害にあいますよ」と忠告される。 しかし、当人たちには、心当たりも身に覚えもまったくない――。アメリカの大都市シカゴでは、いま実際にこんな経験をする人たちがいる。 アメリカという国は、犯罪の「予防」に強く力を入れてきた。1994年、ニューヨーク市警は、戦略管理システム、通称「CompStat」と

    君が犯罪に走る確率は…米警察で導入「犯罪予測アルゴリズム」の功罪(堀内 進之介)
  • 1