「数学的破壊兵器」キャシー・オニールが訴える不平等のメカニズム

「数学的破壊兵器」と呼ばれるアルゴリズムの問題を提起したキャシー・オニールは今、テック業界と社会が「侮辱」という概念をどのように利用しているかを明らかにしている。 by Allison Arieff2022.08.05 43 20 2008年の金融危機（リーマン・ショック）当時、金融業界で働いていたキャシー・オニールは、アルゴリズムをどれほど多くの人が信頼し、アルゴリズムがどれほど多くの損壊をもたらしたのかを目の当たりにした。オニールは金融業界に失望してテック業界に飛び込んだが、ターゲティング広告から不動産担保証券のリスク評価モデルに至るまで、人々はあらゆるアルゴリズムに対して盲目的な信仰を抱いていた。だから、彼女は業界を去った。「自分を含めて業界がやっていることが、信頼できるもとは思えなかったのです」。オニールはそう話す。 自分が「業界の共謀者であり、無自覚のツール」であるという気づきを

[tanayuki00]

アルゴリズムはただ分類するだけ。だが、分類されたものをどう扱うかには人間の意図が隠されている。それはたぶんに政治的なはずなのに、それを問いただそうとすれば「お前にはわからない」という侮蔑に直面する。

[donovantree]

一方その頃日本では当たり前のように自公政府が統計を改竄していた。アルゴリズム以前の話だった。

[Baru]

「アルゴリズムは予測ではなく分類をするもの」「これまでもそうだったのだから、今後もそうだろうと単純に予測」全くその通り。肝に銘ずべき。

[hukushishokuin]

相関、統計、因果、時間

[itochan]

侮辱だか侮蔑だか、高度な権威（自称）を背景に反論を許さない姿勢で弱者に損を押し付けてくる差別。　国による徴兵制度はないけど、経済的に自衛隊に誘い込むなんかもそうかね。

[osugi3y]

“例えば、再犯の可能性を予見するよう設計されたアルゴリズムは、有色人種や貧困層、治安の悪い地域に住んでいる人、精神衛生や依存症の問題を抱えている人などに、不公平な負担を押し付けている恐れがある。”

[PrivateIntMain]

犯罪者の100%は水を飲んだことがあるから水を飲んだ奴は将来罪を犯すかもしれない。ここまで短絡的ではないが、個人の事情を無視した基準を増やしただけで予測アルゴリズムなどと有り難がるのは確かにアホである。

[bronson69]

シャキール・オニールかと思った

[fusanosuke_n]

オニール氏が大きすぎてバイオリンかヴィオラかわからない

[zu2]

“あなたは自分のことを説明する機会を与えられたことがありますか？ 私たちは、当事者に選択肢も発言権もない事柄に関して、その当事者を侮辱してきたのです”