Googleを解雇されたAI倫理研究者が指摘していた「大規模言語モデル」の危険性

Googleを解雇されたAI倫理研究者が指摘していた「大規模言語モデル」の危険性：Googleさん（1/2 ページ） 先週の金曜日、いつも巡回している米国のIT系メディアがいっせいに、GoogleのAI部門、Google AIのEthical Artificial Intelligence（倫理的AI）チーム共同リーダー、ティムニット・ゲブルさんがGoogleをクビになったと報じました。 ゲブルさんが2日の夜、自らのTwitterで、Googleがいきなり自分をクビにしたとツイートしたのです。 ゲブルさんは、AI研究分野では著名で尊敬されている研究者。黒人で女性。かつてMicrosoft Research在籍中、今の顔認識は学習データが白人男性の顔に偏っているので肌の色が白くないと認識率が下がるという有名な論文を共著で発表しました。著者名は覚えていなかったけれど、私もこの論文（の記事）は印

[iinalabkojocho]

こう言う研究者を中に抱えた方がかえって良くなると思うのだがGoogleにはそんな文化的余裕すら無くなってきているのか、むしろ怖いのはそこかもしれない。

[maeda_a]

一方の言い分は疑いなく全面的に受け入れて、もう片方の言い分は「やっぱりなんだか不自然」で片付けちゃうのが公平なんだろうか？

[north_korea]

途中「Googleさん」が複数回出てくるけどこれは何だ。この記事AIが書いてる？

[giboaiko]

この人がGoogleに利益をもたらすとは思えないので解雇は適切に思える。みんなの会社で会社の事業を否定するような人が居たらと考えるといいと思うよ。/ この人はこの人で問題無い大規模言語モデルを作る会社に入ればOK

[hatebu_ai]

言葉を一つにしようと思うと雷が落ちてGoogleという神の知識に迫ろうとする巨大なバベルの塔が崩壊しちゃうから、なんとしても止めないといけないんだよね

[hatest]

Don't be evil.(邪悪になるな) も Do the right thing. (正しいことをしよう) も正悪の判断を上司だけがするのであれば意味のない言葉になる。

[geopolitics]

これはアジアンは子供顔ということにもなる。「今の顔認識は学習データが白人男性の顔に偏っているので肌の色が白くないと認識率が下がる」

[Domino-R]

Googleくらいになればこういう批判者の存在を強みにできそうなんだけど、まあチカラがあるからこそ批判者を単に無視することもできる。どっちを選ぶかは企業文化だろうけど、結局はトップのパーソナリティよね。

[ShimoritaKazuyo]

まあ、私にはこの方をgoogleが雇用する理由が全くみえないですね。優秀だろうけど会社に利益をもたらす人材には全く思えないから。

[UhoNiceGuy]

CO2は完全に難癖だし、少数民族の言葉が考慮されていないというのもこの人自身英語で論文を書いて格差を拡大している。汚い言葉が入ってくると言っても、それを含めて世の中だし。難しいね

[Seiji-Amasawa]

“米国のIT系メディアがいっせいに、GoogleのAI部門、Google AIのEthical Artificial Intelligence（倫理的AI）チーム共同リーダー、ティムニット・ゲブルさんがGoogleをクビになったと報じました。”

[paravola]

（まあポリコレ憲兵（だけ）がAIより上って、丸出し優生主義よりなお悪いかもね）Google AIの偉い人（白人男性）は「なんか世間で騒ぎになっちゃったけど...」と釈明メールを配信（これも当然ながら外部に流出）

[keijak]

この研究者のパーソナリティとAI倫理研究チームの内情を知らない外野には分からない内輪の揉め事な気がするのであまり深入りする価値ないと思う。

[sisya]

googleのやり方は横暴だ…くらいの認識で読んでいたのだが、筆者の書き方が怪しすぎて、「この記事だけで断定するのは怖い」というところまで自分の認識が塗り替えられた。ネガティブキャンペーンのような記事。

[isrc]

　Googleは、昨年10月からBERTを英語での検索で採用しています。それを「BERT大丈夫なの？」と言われたら、Googleの屋台骨であるGoogle検索に問題があると言われるようなものです。

[suzx]

#メモ保存

[monbobori]

「倫理的AI研究」チームなんてノブレス オブリージュそのものの名称なのに、この人をクビにしたってことはタダのお飾りってことかね。

[syukit]

そうか

[modal_soul]

Googleは国家より強い神になったけど、市場原理で動く企業でしかないので、神としての振る舞いを求められても相容れない。資本主義が驚異をドライブしているとも言える。解決策は見当たらない

[fugofugo]

Googleは社会そのものでも公的機関でもなく私企業だし、会社の方針と合わなければ別にこういう対応してもいいと思う。

[sakazaki_dc]

中国共産党と組んで、検閲エンジングーグルになってるで、当然かもね。情報操作独裁エンジンだから。

[yoko-hirom]

『投資』云々は，AIへの過剰なそして間違った期待を利用して儲けていることへの批判。『CO2』云々は持続可能性への疑問。『表現削除』云々『少数』云々は教師データの正しさ多数決の正しさへの疑念。極めて真っ当。

[misshiki]

一番わかりやすく詳しく経緯が説明されている。 Jeff Dean 氏自身もメール内容を公開しているんだけど、Google側の言い分を取り上げないのは不公平感あるかも。

[takeishi]

AIにポリティカル・コレクトネスって誰が教えるのか

[hatekids]

個人ブログみたいな文章垂れ流すのやめろよ

[shinkansen_nagasaki]

行動規範から｢Don't Be Evil（邪悪になるな）｣を外しただけありますね。

[ffggmm]

別の理由があったにしても、それを口に出して説明できない時点で、「本当のこと言ったら印象悪いから、適当な理由付けて解雇してやろ」ってやったわけで、とてもじゃないけどマトモな解雇理由だったとは思えない。

[kei_1010]

googleさん、パネェ

[aya_momo]

イメージ通りのGoogle。

[kikai-taro]

民主主義やヒューマニズムが資本主義に負けるの構図。逆転は確率的な大災害によってしか成されない。

[t-murachi]

「この人がGoogleに利益をもたらすとは思えない」って声があるけど、自己批判者の存在はevilなイメージを緩和する経営戦略上超重要な存在であるはずで、残念ながら経営が幼児返りしたとしか思えないんよね(´・ω・`)=3

[Edge_Walker]

特にAIの様な新しい分野の場合、開発方針に異議を唱える有能な研究者は会社にとって貴重だと思うんだがなあ。どのみち試行錯誤しながら進んで行くわけだから。なんか最近、世界中が中国化していく感じだ。

[gurinekosan]

企業として利益に反する倫理は要らないというメッセージですよねえ。

[hanagesan]

Googleに利益をもたらすとは思えないと言うが、エンロンやリーマン・ブラザーズのように最も邪悪な企業として教科書に名を残すリスクを低減するという意味では雇用する必要はあると思うけど。短期的視点だと微妙だが

[kako-jun]

サムネイルがクエストを受注する会話みたい

[taxpayers]

顔が黒い方が特徴抽出しにくいのは当たり前の話だろう。でもクロンボだけ別処理にしたら今度は黒人だけ区別してるとか言って騒ぎだすんだろ？何も生み出さないポリコレ活動家は職場から追い出すのが正解。

[stealthinu]

『Googleさんはこれまでも、セクハラやパワハラで何度も従業員と衝突し』ゲブルさんね。データの偏り問題あるのわかるがこの件はどうなんだろう。これの前の話ももやっとしたし。

[otchy210]

グローバル草津感ある。世間の注目の偏り具合とか、どちらの言い分に利があるか一様には分からない所とか。