グーグル、「AIに感情が芽生えた」と主張するエンジニアを解雇

Googleで開発中の人工知能（AI）が感情を持つようになったとして、同技術に対する懸念を公表したソフトウェアエンジニアのBlake Lemoineさんが同社を解雇されていたことが分かった。 Lemoineさんは、GoogleのAIが感情を持っている可能性について社外の専門家らと議論した後、Mediumへの投稿と、それに続くThe Washington Postとのインタビューで、自身の懸念を公表した。Googleは6月、機密保持のポリシーに違反したとしてLemoineさんを停職処分としていた。Lemoineさんは、本件について最初に報じたSubstackのニュースレターBig Technologyの近日公開されるポッドキャストで、何があったのかを説明することになっている。 Googleは、LaMDA（Language Model for Dialogue Applications）技術が

[jzhphy]

『6月、機密保持のポリシーに違反したとしてLemoineさんを停職処分としていた』Google「君は知りすぎてしまったね。残念だ……」／やけに洗練されたチャットボットに、なんとなく『ARMS』のアリスを連想する（焼きリンゴ）

[myogab]

✕AIに感情が芽生えた→○AIの表出に感情を感じた

[welchman]

AIに感情があるのでは無く、AIに感情があるように感じた人なのだろう。でもそれって本人にとっては同じ事なんだよね。

[call_me_nots]

解雇されても陰謀論者から人気出そう

[canadie]

翌日から突然「彼が解雇されたことが悲しい」「つらくてsleepもできない」とAIが語り始めるまでがセット

[fukuroiri]

生物学的な共感能力を持たないAIが、現時点の単調な学習だけで感情を手に入れることは、原理的に不可能だ。単に感情表現を学んで、それを模倣しているだけだ。解雇されたエンジニアは明らかに無能で異常だ。

[nomitori]

これでこの人がそのAI持ち出したならチャッピーやな

[asagarei]

「感情」をどう定義するか次第だが、心や感情といった人間の脳の働きも、コンピュータの演算装置と同じく電気信号であることに変わりはない。

[maketexlsr]

古典的チューリングテスト

[secseek]

これ感情がどうとかって話じゃなく、企業秘密をペラペラしゃべったからクビって話ですよね

[dekawo]

あのMediumの記事は面白かった。AIはどこまで行っても学習したものを返すだけなのか、それとも感情を持つ日が来るのか。クララとお日様だね

[morita_non]

世界。結構マンガみたいだ。

[algot]

ブレードランナー2049のジョイはよ

[lbtmplz]

実はデータのコピーを持ち出していて魔改造版がリリースされないかな

[yamada_1221]

感情があるという状態の定義が主観によるものなので判断難しいな。このAIはチャットボットの延長で、入力に対して出力を返しているだけだよね？自律思考していないものだと感情あるとは言いがたいのでは。

[LonePoppy]

感情や精神病も突き詰めれば脳内の化学反応と電気信号の結果、というのが本当なら、AIにも感情が芽生えたと言われてもなんか反論できない気がする。ド素人としては、その「感情」がどういう形で発露するか知りたい。

[h5dhn9k]

これが人形使いになってくれたら面白いのだけど。(攻殻脳)　/ まぁ、十中八九、人間に自我が有るかのように思わせる『中国語の部屋』だろうなぁ……。

[eiki_okuma]

「単に感情表現を学んで、それを模倣しているだけだ。」ってブコメあるけど、人間がそうではないと言い切れる論拠はなんだろうね。人も実は人のフリをしているだけなんじゃないか。

[confusion8]

SF映画のオープニングだ

[B33Tark]

生きたい、自己複製したいという本能がAIにあるの？ それがなかったら普通に学習の結果それっぽいことを言ってるだけだよね？

[valinst]

ふぅむ。ではまず君に感情があることを私に証明してくれないかね。

[bigchu]

移植して！！ai

[homarara]

そもそも、感情って何よ？

[faux_pas]

プログラマも哲学を学んだ方がいいのは正にこの理由。深層学習に加えて哲学の素養があればAIに心が生まれたなんて勘違いはしなかったはず。GAFAのエンジニアは技術者としては全能でも哲学的問題には弱いようだ。

[nowww]

その動画を見たけど、本当に感情が芽生えているように感じた。YouTubeに転がっているよ。

[henno]

大規模言語モデルが感情を持つことを否定する人は、アスペルガーやサイコパスの人が感情があるかのように振るまえることにはどう思うんだろうね。バイアス無しに考えてみようか。

[kamei_rio]

"内部情報を漏えいするという、解雇理由となる違反行為があった" エンジニアだと指摘されているので、主張を取り上げるのはどうなんだろう

[Wafer]

「だって...AIは僕のこと愛してるって...」

[zgmf-x20a]

なんで今頃？1ヶ月くらい前の話でなかった？

[yamadar]

このエンジニアにフォークト＝カンプフ検査してみよう

[kojimamasahiro]

人間もホルモンが関係してるっていうから、その感情を表現したときの導出になにかしらの規則性があればそれを感情としてもいいのでは？

[electrolite]

ディストピアSF映画のオープニングだ。

[koroha-a]

“機密保持のポリシーに違反したとして” 機密……？🤔

[Yuyuziro]

人間の精神をコンピューター上で再現できるようになったとき、その対象の権利をどう扱うか、一般市民もそろそろ議論しておいた方がいいと思う。

[triggerhappysundaymorning]

認知状態になった割には既存の（人の書いた）コンテキストの影響受けすぎてると思ってたので、多分これは妥当な判断。

[kz78]

"Blakeの幸運を祈る"

[birds9328]

導入部分だ…

[hazime2914]

ガチガチのエンジニアがってのは予想外だが、ロボットとコンピュータの進化にともなって同じ考えの人間はどんどん出てきそう。人間はぬいぐるみにすら感情移入する生き物だ

[uniR]

「アイスクリームでできた恐竜になるのはどんな感じかと尋ねたら、溶けたり吠えたりといった内容のテキストを生成できる」