「福祉手当の不正受給者」を予測するAIが“人権侵害”で差し止め（平和博） - エキスパート - Yahoo!ニュース

「福祉手当の不正受給」の危険度が高い人物を、AIを使って予測し、洗い出す――このAIが“人権侵害”に当たるとして、差し止めを命じる判決が出された。 オランダ・ハーグの裁判所が５日、政府がAIシステムで行っている福祉手当の「不正受給者」洗い出しのための危険度予測が、欧州人権条約に違反しているとして、使用停止を命じる判決を出した。 裁判には国連の人権専門家も加わり、その人権侵害をめぐる議論は国際的な注目を集めた。 AIによる行政や司法手続きなどの「自動化」は、幅広い分野で普及し始めている。 だが、その仕組みや効果が不透明な一方で、人権侵害への批判、特に貧困層やマイノリティへのダメージにつながる、との疑問の声も高まっている。 米国では、刑事被告の保釈手続きで、再犯危険度を予測するAIシステムが広く採用されている。 だが人権団体の調査によると、高止まりが指摘される勾留件数が、AIシステム導入によっ

[haruhiwai18]

"オランダ・ハーグ地裁での裁判は、人権団体やプライバシー保護団体、さらに同国最大の「オランダ労働組合連盟（FNV）」などが原告となり、2018年に提訴された。"　→こういう時にちゃんと労働組合も仕事をする国。

[ad2217]

捕捉率を高めるＡＩを作ればよかったのに。

[yuya_ryuno]

学習データの偏りによって判断が偏ることは当然のことで、それは人間でも同じ。AIの予測結果は人間の心の中でもあったもの。「心の中でクロだと思うのはOKで、開けっ広げにしてはいけない」みたいな話に聞こえた。

[sarutoru]

“不正受給への警戒の重点化が、低所得層などへの「差別とレッテル」に結びつく危険性がある、とするハーグ地裁の判決”

[a96neko]

これが人権侵害になるのなら貸出時の貸倒リスクのAI判定も違反になるよな

[rti7743]

特定の地域に住んでいる人が色眼鏡で見られるようなのはマズイよなあ。

[ryunosinfx]

AIが立ち上がるのに現状追認しか出来ないのだから仕方ない。こう人権保護の理念への適合度とか追求できれば良いんだけど。あと、扱う領域がまだ狭いのもね。AIに学習させる側がそもそも論を語れないと。

[hogeaegxa]

AIは予知能力者じゃないんだから、犯罪実績を残してきたのが貧困層と移民ばっかなら予測もそうなるのは当たり前の話

[tatuyan]

そういえば水道管修理予測のAIでも似たような話があったな

[sisya]

予測ではなく、機械的にルール違反になる組み合わせになっている人がいたら通知するシステムにすればよかったと思う。受理時点のシステムを強化しないまま、疑惑だけ強化してしまう流れはあまり好ましくはなく思える