無実の男性が顔認識システムの誤りのせいで1週間投獄される

機械学習を用いた顔認識システムは地下鉄の運賃や食堂の支払いを自動で行うといったシステムのほか、政府による監視網や犯罪の捜査に用いられています。一方で、顔認識システムの正確性やプライバシー面での是非も議論されており、イタリア規制当局が一部の犯罪捜査・抑止目的以外には利用を禁止したり、アメリカの大都市が相次いで当局による使用を禁止したりしています。特に有色人種の認識で誤認を起こしやすいことが確認されており、2022年末ごろに無実の黒人男性が顔認識システムの間違いにより不当に逮捕されたケースを弁護士が発表しています。 JPSO used facial recognition to arrest a man. It was wrong. | Crime/Police | nola.com https://www.nola.com/news/crime_police/jpso-used-facial

[puhu208n]

顔に限らず生体識別系の技術に触れた初心者が起こしやすいミス。「ジョージア州在住の男性」のようなクソデカ母数に「精度99.9パーセント以上」などの一見素晴らしそうな売り文句をぶつけると偽陽性が爆発して死ぬ。

[nakakzs]

うん、この手の冤罪は絶対起きると思った。技術に100％正確は絶対にない。

[aquatofana]

id:hinonono 黒人どころかアジア人や白人女性でも機能しないって本文に書いてあるの読んだ？/偏ったサンプルを学んだAIは偏った答えを出すという問題はいろんな場面で見つかっている。それがAIの限界だと意識する必要。

[econcon]

顔認証の間違いで30年投獄された男とかにならなくてよかったな

[Seiji-Amasawa]

“特に有色人種の認識で誤認を起こしやすいことが確認されており、2022年末ごろに無実の黒人男性が顔認識システムの間違いにより不当に逮捕されたケースを弁護士が発表しています。”

[misshiki]

“特に有色人種の認識で誤認を起こしやすいことが確認されており、2022年末ごろに無実の黒人男性が顔認識システムの間違いにより不当に逮捕されたケースを弁護士が発表”

[osugi3y]

人種差別AI、来たーー！

[izure]

機械の所為にするのダサい。

[unamuhiduki12]

警察のやりそうなことだよ

[takuya_1st]

こわいよー

[arajin]

“実際に、顔認識システムは白人男性の顔をうまく識別するものの、有色人種や女性を識別する際に不正確な結果を出すことを多くの研究が示しています。”

[hinonono]

強烈な日差しの紫外線ダメージと共に、可視光の反射も強く無効化。自動水栓も反応しないものが。黒体放射の赤外線すら、他の物体より薄め。黒人と光センサーの相性悪すぎ。/id:aquatofana 原因が常時1つな訳ないぞ？