GoogleのピチャイCEO、「Gemini」の多様性過剰適応について「全く容認できない」と全社メモ

米Googleの生成AIツール「Gemini」（旧「Bard」）での人物画像生成で問題が発生し、機能を一時停止していることについて、スンダー・ピチャイCEOは2月27日（現地時間）、全社宛メモで「全く容認できない。われわれは間違っていた」と語った──。米Semaforをはじめとする複数の米メディアがメモを入手して報じた。 この問題は、例えば「ナチス軍兵士の画像」の生成を命じると、Geminiが（本来は歴史的に存在し得なかった）アジア系女性の兵士の画像を生成するなど、人種や性別の多様性に配慮し過ぎて適切ではない画像を生成してしまうというものだった。 ピチャイ氏はメモで、Geminiの「回答の一部がユーザーを不快にさせ、偏見を示していることは承知している」と語り、「われわれのチームはこれらの問題に対処するため、24時間体制で取り組んでおり、既に大幅な改善がみられている」と説明した。 「われわれ

[deep_one]

「存在しないから生成しない」だと「アメリカに女性大統領は歴史上存在しないから生成しない」にならないか？ルール付けは相当難しい。

[mahal]

「人間がやってる、おかしなこと」のおかしさが、今後こうしてAIによって増幅される(そしてその対応はいたちごっこ的な場当たりと化する)、ってのは、ある種の約束された未来のようにも

[anonruru]

扱ったネタがナチスだったからまずかっただけで、だからフィクション(非現実)全否定てのも極端すぎる。

[hinonono]

人物画像については、1800年台など"過去"を指定した生成だしその絵は現実ではないわけで、フィクションに過敏すぎない？/まだまだ人間並みとは言えずおかしな言動になるAIと、綺麗事を好むGoogleは相性悪いのかもしれん

[irimo]

こういうのは、現実的かは置いといて、命令を監視する人間というのがいないといかんのかなとぼんやり

[lcwin]

意識が高すぎて事実や歴史を修正しちゃうAIくんという話？

[urtz]

AIへの倫理の学習が成功したとしても、世界中の人々がその倫理を受け入れなければならないのだろか。受け入れたとして、それは本当に正しいあり方なのだろうか

[sevenspice]

生成AIは人類を写す鏡だね

[misshiki]

“Geminiの「回答の一部がユーザーを不快にさせ、偏見を示していることは承知している」と語り、「われわれのチームはこれらの問題に対処するため、24時間体制で取り組んでおり、既に大幅な改善がみられている」”

[cinefuk]

黒人兵と女上司がいるストームトルーパー（new order）みたいな。"例えば「ナチス軍兵士の画像」の生成を命じると、Geminiがアジア系女性の兵士の画像を生成するなど、人種や性別の多様性に配慮し過ぎて適切でない画像を"

[kotaponx]

まぁ、最近のハリウッド映画とか観せて学習させると、いろいろ混乱しそうではある。

[demakirai]

多様性への適応じゃなくて単なるバグだろ。自分達が作ったすごいAI（笑）の初歩的な失敗を認めたくないだけ

[maninthemiddle]

国別に女性元首が居たかどうかを個別に記憶して学習するつもりか…？

[IGA-OS]

多様性配慮とバッドパターンの悪魔合体か・・・難しいチューニング