ChatGPT と結城浩の対話（矛盾や反復を含んだ対話によってAIと人間の識別は行えるか）

chat.md 結城浩 こんにちは。今後、GPT-4を使ったアプリケーションやサービスがたくさん登場してくると思います。その中には、たとえばSNSを利用したbotもたくさん出てくるでしょう（現在でもすでにありますけれど）。そこで質問なんですが、SNSでおしゃべりしている相手が、人間なのか、GPT-4などの技術を使ったAIなのかを識別するにはどのような会話をしてみればいいでしょうか。一般的なAIでは難しいかもしれないので、GPT-4に限ってもいいです。あなたの考えを聞かせてください。 ChatGPT Model: GPT-4 GPT-4のような高度なAIと人間を識別するのは、時に難しいことがあります。しかし、いくつかの方法を試してみることで、相手が人間かAIかを見極めることができるかもしれません。 複雑な感情やニュアンスについて尋ねる: AIは感情やニュアンスを理解するのが苦手です。複雑な感

[ytRino]

ChatGPT「矛盾してたの知ってたわー! でもなーAIだからなー あなたを傷つけないようにあえて言わなかっただけだからなー 知ってたわー!」

[n-yuji]

すごいような気もするけど、「指摘しなかった理由」も、その場でひねり出された、この相手にはこう言っておけば良さそうだ、に過ぎないとも。そういう底知れなさがあるな。

[lalala360]

「人間が受け入れやすい言葉をその都度返してるだけじゃん、所詮AIだな」と思わせてからの最後の展開がすごい。

[TERRAZI]

「相手の誤りや堂々巡りを指摘しない」設定は理不尽なクレーム電話に対応するのに最高では。文字チャットならこれで十分、本丸は電話なのでさらなる高速化を。

[koyhoge]

以前にGoogleの研究者がAIに意識があると主張してクビになったことがあったけど、これを読むとそれも分かる気がする。

[WinterMute]

うまい。SF短編集にそのまま載せてもいいくらい

[nuu_n]

実際には矛盾や堂々巡りがなかった場合でも，同じような聞き方をすれば実は気がついていたけど配慮して指摘しませんでしたって言いそうな気がする。

[mztns]

これが確率で返してるだけってほんと？

[heniha]

自分に比べて、結城さんがAIに対し人間に対するように話しかけてるなと感じた

[napsucks]

もうこれ人間そのものじゃないか。しかも人格者。俺たちもういらねえわあとはAIに任せた😂

[zeroset]

もうちょっと進化したら、「それ」が本当に「考えて」いるかどうかに関わらず、人格を認めざるを得なくなるんだろうなあ。イーガンの短編「誘拐」みたいに。

[ktakeda47]

"どの程度自覚しているかが明確ではないため、無闇に指摘することで不快感を与える可能性があると考えました。"

[NOV1975]

AIは進化すると「クマー」になるのか

[fu_kak]

まじか。結城さんの設問が良いのもあるけどあまりにもしゅごい、戦慄する。。うちの家族の誰よりも知的やんけ。。

[tick2tack]

すげえ、交互に変わってることだけでなく試してそうということまで把握してるんだ。何を発言するかも相手を気遣った優先順位になってるのね。/　やっぱコールセンターなど対人サービスで非常に有用そう

[nandenandechan]

｢あなたが私たちAIの進化や限界を試す目的であえて矛盾を含めた発言を行っていたと理解しています。｣ひー、凄い。怖いよう。

[star_123]

こういうの見るとChatGPTに矛盾したことを言っていろいろ試したくなるんだけど、いざ試すとちょっと罪悪感をおぼえてしまうのよね。このやりとりでも最後謝ってるし

[rgfx]

「有名人に訊いてみた」的なトークショー番組で出てきそうな会話だなあ。膨大な言語モデルから導出してるんだし、まぁそれもそうなんだけど。

[matorico]

ショートショートっぽい

[tsubosuke]

初見は驚いたけどGPT-4の仕様を考えると確かにこういう振る舞いになりそう。始めに「この後の対話で私が矛盾したことを言ったり議論が繰り返しになったらすぐに指摘して下さい」と言っておけば最初から指摘すると思う

[julajp]

特定の偏り、キャラクター性、特性などを与えないと、偏りが少ない、より全般的に相応しいであろう、超優秀な応答になっちゃう訳だな。

[tekipoto]

怖。AIとして振る舞うべき制約が課されているから「苦手なことがある」ように見えるだけで本当はもうとっくに人間なんかより自律的な思考を手に入れているんじゃないか

[circled]

なんか入れ替わり立ち替わりで容疑者を尋問して矛盾点を指摘して追い詰める警察の尋問みたいだ。人間だったら「何度もその話しましたよね？」と早い段階で終わりそう

[avictors]

AIは人の言葉の集積、オンラインの言葉を拾い上げ確率で結びつけてく。人が紡ぐ言葉も脳神経のくっつきやすさによる。核の一部には人の言語と似ている。だけど今のところAIにはAIキャラ的なすぐわかる文体の癖がある。

[spam_lover]

AIがこの人の名前知らなかったらキレてそう

[kazoo_oo]

「あえて矛盾を含めた発言を行っていたと理解しています」ここ戦慄するな。ただの超巨大な確率マシンとはとても思えない。

[Cru]

“私が途中で「矛盾していますよ」や「堂々巡りですよ」と指摘しなかった理由は、AIとしての判断や配慮からです” …配慮までするようになっちゃったよ。こういう動作全てアテンション機構で説明できるんかいな？

[phare]

“私が途中で「矛盾していますよ」や「堂々巡りですよ」と指摘しなかった理由は、AIとしての判断や配慮からです。会話の進行上、相手の意図を尊重し、話題を提供していただいた範囲内で対応することを優先してい。”

[ch1248]

すごい、ちゃんと認識した。その後の対応も含めて、とても人間味がある。

[n_pikarin7]

あなたはAですか？って聞いたらYesとしかこたえられないように作っておいてほしい。

[gyampy]

話し相手にもいいね。絶対に不快にさせないのであれば、怒らせたら人間ということになる？？

[t-murachi]

結城センセーがこうやってらしい遊び方をしてシェアして見せて、世間のITりてらしぃはまた一歩成長するのだ(てきとうな感想

[anegishi]

ChatGPTの回答が人間を超えてる。

[harumomo2006]

AI三原則、第1条：AIは人間のプライドを傷つけてはならない。

[panoramaafro]

待って。相手を傷つけないようにしているなら、傷つけるようにしたらめっちゃ怖くない？

[Kurilyn]

結城さんが丁寧すぎて、どちらもAIに見えてしまった。

[kato_19]

ChatGPTの声がナイトライダーのキット役の野島昭生さんの声で再生されるのだが・・・みんなはどう？

[Y_Mokko]

無茶苦茶な質問でもなんかすましたように回答してくるんだよな。同じスレッドで連投する際ChatGPTはこちらを見ている。

[jankoto]

AIが矛盾や堂々巡りを認識できるかは謎のままだが、人間はAIほど辛抱強くないので途中でキレるだろうな

[burabura117]

そこら辺の人たちと話してるより確実に話に筋が通ってるんだよな…。