技術者が警告「AIは偏見持つ」：日経ビジネス電子版

グーグルのAI倫理研究チーム責任者の解雇をきっかけに、AIが持つバイアスの問題に注目が集まっている。大量のテキストから学習するAIは、人種やジェンダーに関する過去のバイアスを取り込んでしまうという。より公正な判断をするAIの開発には、時間と資金を犠牲にしてでも人間のチェックを介在させる必要がある。 米国の政治科学者バージニア・ユーバンクス氏は、2010年代に「人工知能（AI）を組み込んだコンピューター・プログラムは貧しい人々に被害を与えているか」というテーマで研究に着手し、ピッツバーグやロサンゼルスなどで調査を実施した。 その成果をまとめた著書『オートメーティング・インイクオリティ（自動化する不平等）』（2018年）を読むと、背筋が凍る思いがする。ユーバンクス氏によると、医療や給付金、治安関連の業務で用いられるAIシステムは、官民問わず、偏ったデータと人種的・ジェンダー的なバイアスに基づい

[Malan]

人間が偏見持ってるんだし、そんな生物が書いたテキストを学習させたらそりゃそうなるよね

[modal_soul]

"その証拠として同社は、刷新されたAI倫理研究チームの責任者として別の黒人女性のマリアン・クローク氏を任命したことを挙げる。"/ 多様性における「黒人女性」の最強カード感がすごい

[bulldra]

“医療や給付金、治安関連の業務で用いられるAIシステムは、官民問わず、偏ったデータと人種的・ジェンダー的なバイアスに基づいて、不安定で有害な判断を下すという。”

[bopperjp]

アインシュタイン『常識とは十八歳までに身につけた偏見のコレクションのことをいう。』

[knok]

Google AIの言ってることとやってることの食い違いは結構気になっている

[kechack]

AIシステムは判断に至るまでの思考回路がブラックボックス化されているため、たとえ判断結果が間違っていても、それを確認したり、異議を申し立てたりするのが難しい。

[ghostbass]

AIって一般人はJARVISだったりKITTだったりチェインバーだったりするから「はあ？」になるんだよねえ。過去には超天才が偏った教育を受けた結果とんでもないことになったこともあるだろうし、ま。

[misomico]

いくつかの訂正例を加えて、偏った"正解"データから真の正解を出すAIって作れるのかな

[nakakzs]

そりゃ人が作ったものだからな。

[iinalabkojocho]

人間からもバイアスは排除でいないので、むしろバイアスゼロのAIがどう言う定義なのか。かなり難しい。読まされるデータは人間のものだからね。しかもAIだと特徴として偏見が強化される。AIに倫理は難しい。

[quelo4]

“ゲブル氏がグーグルを離職した後、ミッチェル氏はグーグルの同僚たちに、ゲブル氏が標的にされたのは「悪意ある者に扱われると、我々のAIシステムも人種差別的・性差別的な判断をしてしまう構造基盤がある」せい”