機械学習にも倫理教育を！機械学習モデルと公平性 - NRIネットコムBlog

はじめまして。喜早です。 業務では主に開発チームのマネジメントと要件定義を生業にして日々を過ごしています。 さて、多少エモめのタイトルをつけましたが、今回は機械学習とそれを構築する人間との倫理のお話をしようと思います。 機械学習モデルとバイアス 先日、社内の研修で、アンコンシャス・バイアス研修というものを受講しました。 アンコンシャス・バイアスを日本語訳すると「無意識の思い込み、偏見」です。 人間の行動は、自分の過去の経験や知識に基づいて発言や判断をすることが多いと思います。 その発言、判断の中に、自分でも無意識にステレオタイプや思い込みが含まれてしまっていることがあります。 アンコンシャス・バイアスは誰でも持っているものなので、完全に止めることはできない。 ただ、そういう人間の特性があることを自覚して、発言・判断を行う際には注意して行動しましょう、 というような内容でした。 で、これを受

[dkfj]

学習させるデータにバイアスが掛かっていたら、機械学習の判定結果にもバイアスが掛かるということですね。難しい問題です

[prjpn]

エチカの時間

[JULY]

多くの一般の人が、機械学習＝ AI と認識し、AI の判断が正しいと思ってしまう事に危機感がある。この記事を逆に見れば、意図的に誤った判定をするものが作れる、と言うこと。

[misshiki]

“ SageMaker Clarifyのようなサービスを使うことで、公平性を検討する負荷を下げていくことで、よりより機械学習モデルを育てていけることにつなげていける”