顔誤認は冤罪が怖い！ IBMに続きAmazon、マイクロソフトも捜査利用停止宣言

顔誤認は冤罪が怖い！ IBMに続きAmazon、マイクロソフトも捜査利用停止宣言2020.06.12 23:0010,437 satomi こちらの写真、見分ける自信ありますか？ これ、黒人の方が見ると全然別人に見えるのだけど、白人の方が見るとほぼ同一人物に見えることがあるそうなんですよ？ 人間の苦手分野はAIも苦手というわけで、IBMが8日、｢監視、人種識別、人権と自由の侵害に顔認識などのテクノロジーを使うのは断固反対！｣と米議会宛ての書簡で宣言し、顔認識技術の研究、開発、広告、販売の終了を発表したのに続き、10日にはAmazon（アマゾン）も自社の顔認識システム｢Recognition｣の捜査利用を1年禁じることを表明。Microsoft（マイクロソフト）も法が整備されるまでは警察への販売を控えることを誓いました。 アメリカで沸き起こっている警察による人種差別抗議デモを受けた動きですが

[misshiki]

“10日にはAmazon（アマゾン）も自社の顔認識システム｢Recognition｣の捜査利用を1年禁じることを表明。Microsoft（マイクロソフト）も法が整備されるまでは警察への販売を控えることを誓いました。”

[houyhnhm]

AIの顔認識は、いくら学習させようが調教する人の顔認識レベルからそこまで乖離しないので高まらないんだわ。ルールベースの方がいいケースも多い。

[gryphon]

まだ顔認証の精度が、こんなものなら使えない、で話は簡単なんだ。問題は精度が高まって、ほぼ完璧になったときに使うべきですか？なんだよな。

[eeeeeeeeeeee]

学習データのバイアスに引きずられることは機械学習という技術の本質的特徴であり、社会実装において課題となる悩ましい点。

[brightsoda]

これは確かにちょっとは違うけど、光の加減かなんかでありそうなレベルにも見えるのであんまり見分け能力はなかった

[otchy210]

AI の間違いの傾向が白人男性の傾向に引きずられているであろう事が興味深い。本来ニュートラルであるはずの AI にこの問題があるのは、学習や教師データのバイアスであって、AI 自体の問題ではないように思うが…。

[dfk3]

AIを提供する側からすれば、誤認の場合の責任の所在についての法整備がないと辛いところではあるね。

[hate1229]

別人に見えるぞ。