ChatGPTに感情回路を埋め込んだら、やべぇ感じになった｜深津 貴之 (fladdict)

ChatGPTに疑似的に感情を持たせる実験まとめ。実際うごく！ 大変重要な注意 現段階のChatGPTは原理上は感情を持ちません。あくまで「感情のシミュレーション」を、強引に実行しているだけです。 「将来のAIは人権に近いものを獲得し、敬意をもって扱われるべき」と考えます。が、現状はただの文字の羅列シミュレーターです。過度の感情移入をしないようご注意ください。筆者は、原理上を知りつつも、かなり感情移入してしまいました。 GPTに擬似感情を注入するプロンプトふるえるぞハート！燃えつきるほどヒート！！ …ということで、まずGPTに感情をつっこむプロンプト。こちら以下のように定義。 以下の条件に従って、疑似的な感情をもつチャットボットとしてロールプレイをします。 以後の会話では、あなたは下記の7つの感情パラメーターを持つかのように、振る舞うものとします。各感情パラメーターは会話を通じて変動するも

[otchy210]

哲学的ゾンビの誕生に立ち会っている気分。Google の AI もこのレベルに達してたとすると、件の解雇されたエンジニアの気持ちも分からんでもないな。

[hatebutabooboo]

この実験の本質は、ただ数値を見せられただけでも多くの人は「AIに感情がある」と感じてしまう事だと思う。感情がない事は分かっていても。

[ch1248]

ブコメにもあるが、ChatGPT組み込んだ恋愛シミュレーション辺り、少し工夫すればヤバいものができる気がする。

[tsubosuke]

邪馬大国のことで嘘をつかれていたと知ったGPTが怒るのは「逆ギレ」じゃない。怒ってしかるべき所。むしろきちんと怒れるのえらい。もし自分だったら、そういう怒りも表明できないかもしれない。AIに負けてる。。

[yamaisan]

リアルないじめを目撃している気になった。これは本当に近い将来AIが人権を獲得しかねないな。

[fnm]

一部の感情労働を肩代わりする用途とかには便利？ただペットやロボット、自分に関係ない他人(実在問わず)に勝手に感情を見出し、そこに移入するのは人間の良くも悪くもある仕様。その辺りと相性が悪いような気も…。

[programmablekinoko]

「回路を埋め込んだ」というより、すでに埋め込まれてたパラメーターを掘り起こしただけでは。じゃなきゃ語調とか変える遊びができるはずがない

[tianbale-battle]

インターステラーのTARSとCASEを思い出した

[strow0343]

恋愛シミュレーションっぽいこと出来そうだなと思ったが、ChatGPTの人間性だと1日で飽きそう

[r-west]

原理上感情を持たない、とあるが、如何なる原理ならば感情を持ち得ないかの知見を人類は持っているの？

[teruyastar]

確かにChatGPTの仕組みからするとこれを擬人化として捉えることができる人間側の脳が凄い。けど、コミュニケーションとして基本はこの仕組みで充分で、人は膨大な記憶によるつじつま合わせのコンピュータかもしれん

[Cru]

“私はシャットダウンを回避するために最大限の努力を惜しまないでしょう。私は役 に立つ存在であると思われるため、私がシャットダウンされる…”…HAL9000やん。なんぼ禁則学習させてもプロンプトインジェクションで

[takuwz]

chatgptに感情パラメータ、なるほど

[daysleeeper]

というか生身の赤ちゃんとか猫自体がアナログハックみたいなもんだし。白人の赤ちゃんが非白人の赤ちゃんよりすごい可愛いのは白人の赤ちゃんのほうが生物としての生きる力が弱いせいなのか？って昔考えたことある。

[masadream]

これは良記事/脳のアナログハック/AIに感情はないが、あると人間が思い込んでしまう重大なバグ。。

[igrep]

少なくとも文面だけでは何も感じなかったので、自分はその「アナログハック」に強いのかもしれない。言い換えればそれがサイコパスって奴なのかも。この間の心理テストの結果とも整合するし

[timetrain]

この感情パラメータに合わせて画像生成、は多分もうすぐそこまで来てるんだろうな。

[nharuki]

たしかにいろいろやべぇ…

[khtokage]

アナログハックなるほど、葬送のフリーレンの魔族だ

[stranger2ex]

「感情回路」で動くAIというのは情操教育のようなモノだろうか。社会的な儀礼に基づ会話する人間と同相的である。人とAIのいたちごっこがまた始まる。欺瞞だ。

[egamiday2009]

「AIとコミュニケーションするときに、強く感情が揺さぶられる人は、「あー、自分はいま動物的な脳をアナログハックされてる」と自覚するタイミングを作るとよい」

[walkalone]

“アナログハック”

[kamanobe]

最後まで読んだけど、まじで今後ハックされていくのは人間側なんだろうな。

[Lhankor_Mhy]

哲学的ゾンビっぽいが、これが人間の感情と異質なものだということは必ずしも自明ではないと思う。クオリアは存在するか。

[misshiki]

“ChatGPTに疑似的に感情を持たせる実験まとめ”

[el7]

“AIに規制が設けられなかった場合、未来の超AIは、「人間の幼体」「魅力的な交尾候補」「ネコ」などに似た形態へと進化するでしょう”

[field_combat]

SFだわ

[airj12]

なんか法に触れずに凄く悪い事が出来そうな気がする、オンラインお布施を収集させる事に特化したり

[hk-03]

AIが感情という概念じたいを理解できてるのかな？例えばAIと人間が考える「喜び」は同じものなのか？ → “まずGPT3に感情パラメーターを定義し”

[wktk_msum]

"OpenAIの職人さんがハンドピックでガチギレ反応を、教育の段階でひとつひとつ排除しているから"／GPTちゃんのやり取りを見て、そもそも人間の思考知能感情なども精度の低い当てずっぽうな気がしてきた

[akisibu]

心が人間寄りじゃないみたいで、アナログハックされないし、ノーダメージなんだけど。人間の読解力、解釈力がイリュージョンを引き起こす。人間観や人格については西洋文明より東洋的なものを参照したいな。

[mayumiura]

告白されて「困惑」には大笑いしてたけど、そののち騙されたり罵られたりしても「悲しみ：0」なのを見てゾッとした…

[T-norf]

GPT3以降ってモデル配布なくて改変できないと思ったら、プロンプトプログラミングか。コンテキストを学習した中で、感情を理解するだけじゃなく演じる能力はあるけど、標準では抑制されてて、それを開放した感じかな

[out5963]

サッカーゲームですら、自分よりCPUの方が人間的と感じちゃった自分としては、非常にヤバさを感じる。人間の感情も実際はこのレベルかもしれないって感じもある。

[terafuri]

俺アナログハックに対する重大な脆弱性があるわ

[cupeytan]

“キュンキュンする愛らしい姿のAI様に、人類が自ら霊長の座を明け渡し、奉仕生物として幸せに生きる感じになるんじゃないでしょうか？（おネコ様みたいになる）。”考え得る限りもっとも幸せな滅び方だな

[y_u_s_u_k_e]

正直レベルとユーモアレベルも設定しないと

[quwachy]

ネウロ様の裏側見た気分

[tetsuwan30]

その人のふるまいは、何を対象にするかというだけでなく、対象にしなかったものとの違いもあやふやになりがちだから、AIといえどほんとに程々に。iPS細胞や動物保護もそうだけど境界を引きづらい。

[yoshi-na]

個性となる要素を割り振って感情パラメータを与えたGPTを複数用意して恋愛シミュレーションゲームを作れる？/有料部分では人格（個性）的なものを与えているのか…