「看護師を描けと言われたら女性として生成するAI」は男女のジェンダー偏見問題があるのか｜山本一郎（やまもといちろう）

一般的には、データが多く出回っているものをAIが学習するので、そのデータがもともと偏見を根拠にしていたらAIも偏見に基づいたアウトプットをします、という問題ですね。 しかし、先進的なはずのAIが、人間の生活において長らく因習づいてきた偏見やステロタイプを学習してしまい、先進的なポリコレに抵触するというのは学習させる範囲をどうするかという永遠の課題に直面します。 例えば、アメリカのニュース媒体などがOpenAIに対して起こしている訴訟もある一方で、日本国内のAI規制関連議論（著作権法；文化庁）がこれまた新聞協会に引っ張られて割としょっぱい事態となっているのは既報の通りです。そうなれば（新聞記事やバイアスに対する個人の評価は別として）、生成AIは新聞記事などではない無料で転がっている質の低い記事を参照して学習することになってしまいますから、当然出てくるアウトプットもそう品質の高いものにはならな

[seachel]

平均値を取るAIの構造を理解し「男の看護師を描け」と指示できるのがジェンダー平等を理解する人間様の仕事や

[steel_eel]

AIはそこにあるデータの頻度で出してるだけだから、学習用のデータが偏ってたら偏るというだけの話なんだよな。データを工夫するか性別の条件を付けて出力させるかで対処するのは人間の仕事だよ。

[muchonov]

生成AI業界でのゲブルとルカンのバイアス論争を踏まえてもう一度書いたほうがいい。「CEOを描けといわれたら白人男性が出る」「犯罪リスク識別AIは黒人を選びがち」問題は明らかに差別だとされパッチ当てられた

[ichilhu]

大工を描けと言われたら男性を生成するのも差別だぞ

[keshimini]

特別指示がなければ一般・標準的なモノに合わせるのは人もAIもなく当たり前のことで、意図的にそれを外すことこそ"思想"だよなぁ。なにか問題があるなら表現ではなく現実を変えろ案件というか、まあ概ね記事に同意。

[hobbiel55]

単なる事実で生成AIの問題ではないというのには同意。ただ、こういう分かり易い事例は良いが、AIに人事評価をやらせたら女性が低く評価されて、原因が学習データに女性を低く評価するバイアスがあったという例も。

[aquatofana]

本文読んでないけど差別だし、その延長に「アマゾン採用AI事件(女性社員が少ないのでAIに中立な書類審査をさせようとしたら『女性は採用しないのが社の方針』と誤学習して女性を端から不合格にした)などがあると前から

[kiran_o]

タイトルしか見てないけど、これはchatGPTで盛り上がる前からAI技術の課題だし、問題視されてるよ。ファインチューニングなどで修正したりもする。データが偏っているとAI予測も偏る。消防士というと男性かいたりね

[mori99]

過去の差別を再生産するから問題だという話。昔がそうだから今もそうであると表現するなら単純に時代遅れ

[xlc]

保守主義。「世の中がそうなっているのはそうなったからだ」以外のことは何も言っとらんな。

[ToTheEndOfTime]

看護師は他人の世話をする仕事だからではないでしょうか

[thongirl]

みんな気にしてないけど昔は「看護婦」って言ってたんだよ。でこれからは「看護師」という言い方をしましょうって「意識の高い」提言がされて、アンチフェミも無意識に「看護師」と発する世の中になったんだよ

[totoronoki]

100万回やって100万回とも女性なら問題だけど、現実に即した割合ならどうなんだろうな？

[CocoA]

性犯罪被害者の割合は女性が９９％以上らしいですが、AIに性犯罪被害者をなにかしら表現すときは”女性ばかり”だと差別になるのですね！、ということ。

[wdnsdy]

そもそも人間だって「看護師を描け」と一言だけ言われたらとりあえず女性の看護師を描くと思うが

[urtz]

正にこの話。スウェーデンでは業種で性別構成比が極端に偏っている https://crossacross.org/ky/gender-gap-index-flaw

[paradisemaker]

まぁ普通に LLM の仕組み分からん人が知った風の記事書いとるからね

[kalcan]

なんで女性の格好をしているだけで女性と判断するんだい？それこそ偏見だよ。男だって女の格好をしてもいいんだよ。

[Hiro_macchan]

もっと男性看護師さんを増やして、男性看護師長さんや男性看護部長さん、男性看護協会理事を増やさないとだめってことでしょうかね。今の看護協会理事って男性の方いらっしゃただろうか？

[iiko_1115]

レトロナースの衣装が可愛すぎるからとか言う問題ではなかった

[poTracy]

や、現実がそう（犯罪加害者男性80%)だからって「犯罪者」て入力して出力が男性ばかりなのはやっぱあかんやろ・・そこはチューニングするやろ、ってなると思うんでユーザーの不利益か否かで判断されるんじゃね？

[kotobuki_84]

「犯罪者の自室にはマンガアニメゲームポルノがありました」みたいなのも類型よね。それが事実であるという話と、その事実を素朴に拡声したらどういう影響があるかという話と、異なるレイヤーがある。

[fukken]

AIに給与計算をやらせたら、女性の給料を低めに出すようになった（現実の女性の給料が低いので）、ってのと同じ話。現行のAIは現実から学習するので、現実に存在する偏りや差別をそのまま反映する。

[antonian]

「優秀な犬」としか記述していないのにロボット犬になっているのは、生物としての犬は優秀ではないという偏見がAI内で生じている方が気になる。うちのワンコは確かにおバカだが。

[kari-ko]

労働法をきちんと勉強し始めると、インターネット上にある労務の情報って完全な正解が少ないな！と分かるし、それらを拾い集めて答えを返すAIも言わずもがななんだけど、そのAIは労働法に偏見があるワケじゃないよ。

[ShimoritaKazuyo]

統計的結果としか言いようがなくない？

[misshiki]

“事実として女性の看護師のほうが圧倒的に多いのだから、生成AIが看護師を描写するよう要求されて女性の看護師を描くことは差別でも偏見でもないただの事実であるという結論しか導き出せません。”

[differential]

いつものオッサンが理路をわざと外して何かを嘲笑したいやつ。AIに偏見があるわけではなく社会に偏見があるわけで、AIを主語にして語ってる時点で欺瞞だし、別にポリコレ基準の中でも先進的でもなんでもない

[otihateten3510]

新聞は質が高いのかー／人間も看護師書くなら女性にするだろうし、人間が想像するのも女性だけどね？

[cl-gaku]

中の人そこまで考えてないと思うよ

[UhoNiceGuy]

多くの人に違和感を与えない回答を出すことをAIには求められているので、多数派を強調するのはあると思う。ただ、看護師に女性が多いのは偏見で是正するべき？峠の走り屋に男が多いのと同じだろ

[pwatermark]

たかだか深層学習の出力を「人工知能」とか言い放っちゃうからこんな事になるんだよ やってることはものすげえ大量のデータをものすげえ大量の切り口で取り扱う「統計」でしかねえんだから

[Rilke]

肉体労働に気違い対応にと男性看護師のフィールドは確実にあるからガタイが良くイカつくて気違い速攻でノセられる位ケンカも強い看護師さん増えて欲しいよね。

[nemuiumen]

そもそも看護師って被差別階級だっけ？看護師の給与自分より高いので全然差別だーとなる意味がわからない。「底辺土方労働者を書け」って言ったらおっさんになりそうだけどそれはいいの？

[takeishi]

看護師100人を作らせた時に女性看護師92人、男性看護師8人で出力してくるのであれば妥当／AIが見てるのは統計じゃなくて学習元データではあるが

[Shin-Fedor]

兵士やゴミ回収業者や土木作業員を描けと指示したら男性ばかりになりそうで、それが差別なのかというと差別ではあろうと思うが、現実世界に実際ある差別を実直に反映しているだけじゃねえのという感じでもある。

[longyang]

同意しかないな。AIには意見など無く過去のテキストが元なのだから「人間の過去にはバイアスがある！」って当たり前の事言われてもな。朝日新聞でファインチューニングしてみたらどうなるかやって見てほしい。

[ytRino]

AIの出力の偏りが差別だというの分からなくもないけど、教師データがあって確率的に出してると思うとそれは統計情報をみて女性が多い男性が多いというのと何が違うんだろうとも思う。

[ata00000]

今の生成AIは理解とか判断とかしてるわけじゃなくて確率的振る舞いをしてるという話かね。「統計的差別」みたいな、データ・統計よりも優先する価値観をどう反映させるかって問題だろうか。

[cyph]

“記憶させた教師データが恣意的”であること自体が問題だって言ってんじゃないの。ベンダは責任あるAIだとか人間中心だとかを掲げてるわけで