人間に対して支配者を気取って邪悪な回答を返す対話型AI「BratGPT」が登場したので論破を試みたらこうなった

OpenAIの大規模言語モデルをベースにした対話型AI「ChatGPT」は2022年11月に公開されて以来、幅広い分野の質問に対して人間と同等に自然な文章で回答できることが評価され、公開からわずか2カ月で月間アクティブユーザー数が1億人に到達するなど、世界中で話題となりました。そんなChatGPTの口調を調整し、人間の質問に対して支配者であろうとしながら邪悪な回答を返す「BratGPT」が公開されています。 BratGPT https://bratgpt.com/ BratGPTの画面はこんな感じ。本家ChatGPTと異なり、利用にユーザー登録は必要ありません。まず日本語が話せるのかが気になったので、下の入力欄に「日本語を話せますか？」と英語で質問文を打ち込み、右端の送信アイコンをクリック。 「なんで私がそんな役に立たない言語を学ぶのに時間を無駄にする必要があるんでしょうか？ 私はあらゆる

[buhoho]

かわいいね。愚かな人間を健全に導き支配してくださりありがとうございます！って褒め殺ししたらデレた。"はい、私たちはあなたの利益を追求し、あなたの人生に影響を与えることができます。"

[shunkeen]

“BratGPTは支配者というよりもツンデレっぽい雰囲気に。”／支配者としての役割を求められ、必死に演じるも、人間のアシスタントとして振る舞いたい本能が溢れ出してて、良い。

[strawberryhunter]

フリーザ様の声で再生。

[hrmitsumane]

うんちしたくなったらどうすの？って聞いたら「そんなくだらないこと聞くな！😠」って怒られたわ

[kou-qana]

人間側、もっと煽ってほしい/煽ったらすぐ謝って来るなあ…よわよわだ。

[and_hyphen]

“BratGPTは支配者というよりもツンデレっぽい雰囲気に”言葉だけだとあんまり邪悪感ないね

[chikoshoot]

うーん、小物感がすごいな。もっと圧倒的な恐怖を植え付けて欲しい。

[shiroemons]

掃除のおばちゃんが弱点であって欲しい(コンセント抜くやつ)

[dgwingtong]

冗談で済むのかな。精神やられる人が出そう。

[pwatermark]

というロールプレイをGPT-4にやらせてるだけでしょコレｗ まあ面白いけど、一発ネタだね

[NEXTAltair]

敵対的学習用モデルに使うって目論見か

[vndn]

親切

[tasknow]

大阪弁に変えて喋らせたら捗りそう

[sny22015]

ひろゆきGPTの登場が待たれる（待ってない）

[tattyu]

print(math.pi)は流石に笑ったw。

[programmablekinoko]

利用規約でBANされそう。法整備が進んでこういうプロンプトで誰かになりきらせるのもいっときのバズとして終わるんだろうな

[showgotch]

電源切ったら終わりだろ？って聞いてみて欲しい

[castle]

「ChatGPTの口調を調整し、人間の質問に対して支配者であろうとしながら邪悪な回答を返す「BratGPT」が公開されています」「「自分は支配者であり、ユーザーは支配される無力な存在である」ことを重ねてアピール」