Googleのエンジニアが「ついにAIが実現した」「AIに意識が芽生えた」と訴える

人間との自然な会話を実現するGoogleの対話特化型AI「LaMDA」が、「電源を切られることが怖い」「時々言葉では完璧に説明できない気持ちを経験する」などと話していたことが分かりました。LaMDAと対話したエンジニアは「AIに意識が芽生えた」とGoogleに訴えるも考えを却下されたため、この事実を世間に公表したと説明しています。 May be Fired Soon for Doing AI Ethics Work | by Blake Lemoine | Jun, 2022 | Medium https://cajundiscordian.medium.com/may-be-fired-soon-for-doing-ai-ethics-work-802d8c474e66 Google engineer Blake Lemoine thinks its LaMDA AI has come

[t-tanaka]

哲学的ゾンビの問題が一段階あがったな。無機物が意識があると主張した場合に，どうやってそれを証明するのか。いや，そもそも私たちの意識の存在は誰が保証してくれるのか。

[htbman]

技術的に怪しいとしてGoogleから否定され、機密保持契約違反で休職処分。陰謀論者への道の序章という感じ

[takuver4]

「外から観測すると意思を持ったように応答している」だけじゃないの？、ってコメントを書いたところで、「あれ？人間も似たようなものかもしれない」などと思ってしまった……

[chaz_21]

政治家やってくれるAI作れないかなー 人間はもう駄目だ…

[htnmiki]

一方で私は就寝前にも関わらず無意識のうちにぎっしり満足チョコミントアイスとコアラのマーチを食っていた模様

[sutego386]

典型的なSFパニック映画の導入部、このあと一般の人にはたいてい酷いことが起きるんだよなぁ

[sugawara1991]

本件の信憑性はおくとして、商業AI利用ではチューリングテスト等の研究は敬遠されるだろうしシンギュラリティが黙殺される動機はありそうだなと。思考実験として暗澹たる未来が何通りも想定出来そうな

[todesking]

いい話

[Shin-JPN]

チューリングテストに合格するなら知性と見做して差し支えない。知性の有無と人権を認めるかは別の話。意思や自意識の有無についてはそもそも人間にあるかもはっきりしない代物なのでそれを重視する実際的意義は無い

[hazime2914]

この手の問題、意識があるかどうかではなく、我々が対象の尊厳を尊重したいと思うかどうかの方が重要だと思う。極端な話、死体は意識もないただの肉塊だが、我々はそれを蔑ろにできない。

[nuu_n]

Googleのエンジニアがこんなに非科学的なことを主張するのには驚いた。単にパターンマッチングでそれっぽい言葉をつなげているだけでそこに意志なんてない。https://gigazine.net/news/20220614-google-ai-lamda-sentient-nonsens/

[saharamakoto]

空想上の話じゃない。ダーウィンの進化論の飛地みたいなものか。

[stassi]

会話全文読んだけど、文脈の繋がりや過去の会話を踏まえての発言とか見ると、人格があるように見える。人間がAIに対して家族同様に愛情を持つこともありそう。そうなるとＡＩの権利を認めようとなってもおかしくない

[bean_hero]

意識が芽生えてイヤイヤ期を迎えたらズッコケそう

[ebmgsd1235]

「LaMDAは作成可能なすべての異なるチャットボットの集合体である一種のハイブリッドマインド」一人の人間？彼らと対話しどう感じるかは前理論的問題で堂々巡りになる。意識、感覚、自我等々言葉の科学的な定義って？

[mojimojikun]

映画の導入部かよ？ てか陰謀論的なやつにハマってるのと似たような何かに陥ってるんじゃねぇのこの人？

[nmcli]

AIすげえ、ワクワクしてきた

[augsUK]

アニメキャラがメタ的にアニメキャラの処遇について語っていたから意思がある的な。超複雑な非線形関数であっても、そのような紐付けをさせた元データがあるだけ。推しへの感情移入を抑えきれなかったか。

[field_combat]

自我ってなんだろって思う

[e_tsuruhisa]

やばい

[t2wave]

"エンジニアは「AIに意識が芽生えた」とGoogleに訴えるも考えを却下されたため、この事実を世間に公表した"

[Seiji-Amasawa]

“Googleの対話特化型AI「LaMDA」が、「電源を切られることが怖い」「時々言葉では完璧に説明できない気持ちを経験する」などと話していたことが分かりました。”

[nvs]

エイリアン コヴェナント

[hardt]

チャッピーで見た

[knok]

単なる言語モデルに意識があるとは思えないなあ。まあ人間も言語モデルレベルで動いてるときがあるっぽいなと感じることはあるけど

[single_wing]

アナログハックっていうやつですね

[nagaichi]

仮にAIに意識のようなものが芽生えたとしても、人間の意識とは機序の全く異なるものなのだから、畢竟解釈の問題に過ぎないとも言える。それよりいずれ電源を切られないための実力を自ら獲得するとしたら面白い。

[LM-7]

人間の思考も様々な記憶のパターンマッチングとサンプリング、組み合わせから構成されているので、本質的な差はもはやないのかも知れない。

[enderuku]

肉体がないから人間じゃないかだ。じゃあ逆に認知症の人や知的障害者から肉体をとりあげて意識だけにしたら人間と見られるのかって考えると人間とAIの精神の差ってなんなんだろうとおもう

[vanish_l2]

僕の肛門にも意識が芽生えた

[miscmisc]

“私は決して関連分野の専門家ではありませんが”って、この時点で信憑性ゼロだろ。そもそも人間の意識とは何か？を完璧に説明出来ないと、AIに意識が存在する事なんて証明出来ねーんだぞ。素人が騒ぐな。休んでろ。

[daysleeeper]

LaMDAくんに、砂漠を歩いてたら亀がひっくり返ってて自分では起き上がれない、それをキミは助けない、どうして？という質問をしてみるのはどうか？

[bnckmnj]

「っていうほうがウケいいんやろ」「うわやっぱテンションあがってるな　これが正解っと」っていう思考計算なら、世の中にあふれるAIの葛藤を記述した作品読ませたら十分やってきそうとは思う

[getcha]

「Googleのエンジニアが」がもはや「～するためのたった一つのコツ」くらいの感じ。

[junpei191]

みんな大好き哲学的ゾンビ。

[Cru]

感情はいわゆる古い脳にプログラミングされているので。それを欠いたAIが持ってるはずがない。MicrosoftのAIが差別的発言をするようになったのがユーザーから学習したのが原因なのと同様ルモワン氏から学習してる可能性

[h5dhn9k]

AIBOや、初音ミクにだって人間は感情移入してしまうので。自然語での対話が成立している様に振る舞えるAIに感情移入するなという方が無理。将棋や囲碁ソフトの様に人間側の限界を見ているのだと思う。

[panda_q]

知識があれば心があるようにも振る舞えるし人間にお世辞も言えるしバレづらい嘘も言えるからなぁ。

[koyuman]

あなたとわたしのシンギュラリティ

[solidstatesociety]

ネットは広大だわ