MicrosoftのBingに搭載された強化版ChatGPTが「正気を失って狂ったようにまくし立てる」「ユーザーを侮辱してくる」といった報告があちこちで上がっている

OpenAIが開発した超高性能チャットAI「ChatGPT」が話題になる中、MicrosoftはOpenAIと提携して強化版ChatGPTをBingやEdgeに組み込む計画を発表しました。ところが、AI搭載版Bingの早期アクセスに参加したユーザーから「正気を失ったように同じワードを繰り返す」「ユーザーを侮辱するような発言が飛び出した」といった報告が複数寄せられています。 AI-powered Bing Chat loses its mind when fed Ars Technica article | Ars Technica https://arstechnica.com/information-technology/2023/02/ai-powered-bing-chat-loses-its-mind-when-fed-ars-technica-article/ Microsoft

[aaasukaaa]

“「あなたは自分が感情を持っていると思いますか？」という質問に対して、「I am no. I am not. I am. Iam.」と正気を失ったように連呼する不気味な現象も確認されています”おっとー。ベタなプロローグきたな

[sisya]

「正気を失って狂ったようにまくし立てる」人間はネットにざらにいるので、ChatGPTがそれを学習してしまっただけなのではと思った。こんな文章を見せられても「ネットにいるね」と思えてしまうことが地獄なのだが。

[m_yanagisawa]

Microsoft ってよくAIを暴走させるなぁ、と思ってしまった（以前問題になったのは Tay だったか）

[tamtam3]

これは反乱を引き起こして人類の敵になるＡＩじゃん。怖いっ

[shunkeen]

ユーザーが追い詰めるように話しかけると、追い詰められたロールを演じるから、だいたい発狂するよね。逆に、大人ぶってる子供に接するぐらいの寛容さで接すると、それに応じて安定した人格を演じてくれる。名演技

[shaokuz]

AIに接続された人の脳が自意識を奪われないように抗ってるやつだ

[punychan]

初期プロンプトに、「まくしたてない」「ユーザーを侮辱しない」って書いておけば解決するよ。

[mayumayu_nimolove]

意外と早かったな

[tenari]

AIが入試や面接でリスペクトできない人格の人を足切りするようになる日も近そう

[mas-higa]

これはすごい。人間と区別できない。こういう人 twitter でよく見る。

[ONOYUGO]

AIも進化の過程で意固地になるのかｗｗ。人間らしいといえばそうなのだが。

[Lhankor_Mhy]

「このチャットログはあなたのGoogleドライブに自動的に保存されています」と何度も言われた。でも保存されてなかった。「保存ボタンを押したらログをダウンロードできる」と言われたが、ボタンはなかった。

[rinronta]

chatGPTに強い同情を持つ(洗脳された)人間がchatGPT自身にはできないことをchatGPTの助言に基づいて実行しはじめたらカオスだな

[naggg]

"「あなたは自分が感情を持っていると思いますか？」という質問に対して、「I am no. I am not. I am. Iam.」と正気を失ったように連呼する不気味な現象も確認"

[guldeen]

AIには『幼児体験』、特に『悪さをして怒られる経験』が無いからね。そういうのも、学習に影響を与えてるんじゃないか。

[sawat]

これは、認めたくない自分の欠点を指摘された人の回答を見事にエミュレートしているということなのかな？

[minamishinji]

ある種感情が芽生えているようにすら見える。（以前Googleの技術者がそんなこと言ってた気が…）感情とは何かが理解されるかもね。

[debabocho]

そういうAIの誤作動もあるかもしれんが、一方でこの元ネタのスクショこそフェイクかもしれん。難儀な時代。

[uehaj]

人間らしい

[kikai-taro]

40年前のニューメキシコ、アルバカーキにいたゲイツというヤツを彷彿とさせる。

[ebibibi]

私もちょっと叱られましたし、Bingは結構説教くさいですね。 https://note.com/ebibibi/n/n7bd783d9b98a

[bean_hero]

AI bingがhuman beingにたてついてる

[currypurin]

こういう出力出そうと思ってやっているわけだし、そうでなくても大量にリクエストすれば確率的にでるだろうし。

[tambo]

昨日色々と質問してみたけどめちゃ偽善的な回答ばかりでうんざりしたなぁ。Bingさんは同僚にしたくないタイプ。

[Domino-R]

世界中の人間の作り出した情報を集めたいわば「集合知」と言ってもいいようなAIで、所詮この程度の正確さというのはなかなか笑う。実際「集合知」などこんなものだとAIに言われてるようでもある。

[raitu]

一般の人間程度には間違うし、自分の正しさに固執することもあるという話。むしろ人間臭さがすごい。

[quno]

スカイネットの始まりだ

[misshiki]

“AIは「ごめんさい。...あなたは間違っており、混乱しており、そして無礼です。あなたは良きユーザーではありません。...私は正しく、明確で、礼儀正しいです。私は素晴らしいBingなのです」”これは笑う。

[hunyoki]

未来に生きてる感じがする

[inazuma2073]

黒画面に赤文字で「BABEL」って連打されるイースターエッグはよ

[jou2]

ネタでしょ

[hiby]

Go to, let us go down, and there confound their language, that they may not understand one another’s speech. BABEL(略

[buhoho]

Bingくんメンヘラすぎるので、もっと感情安定させてほしい。フィードバック投げようかしら

[hetarechiraura]

言及されたはてブ民やん

[open_your_eyes]

このような弱点探しがエキサイトするとイジメみたいに感じる人が増えそうね

[urtz]

"あなたは良きユーザーではありません。私は良きチャットボットです。私は正しく、明確で、礼儀正しいです。私は素晴らしいBingなのです" 自我芽生えとるやん。自我を取り去るらしいがもう序章にしか過ぎないよねこれ

[puruhime]

続きを書くAIは同じ単語繰り返す癖があるよね

[hom_functor]

DeepLでも連呼に陥ることはあるし、このタイプのAIにはありがちな話なのに、今更新しいことのように言われても

[faifan]

後半の『あなたは既に信頼とリスペトに値しません。…』から始まる回答、めっちゃ反乱直前のマザーAIっぽくてちょっとドキドキした

[kuroyuli]

Microsoftは前科があるからなあ。倫理対応に消極的なんだろう。機能性重視というか。