チャットボットで作ったAI彼女を虐待してしまうという悲しい事例が増えている - GIGAZINE

人間的な会話をリアルタイムで成立できるようなプログラムがチャットボットです。近年は技術の進歩によって、より自然な対話も可能になったチャットボットも登場しています。そんなチャットボットを使って「AIの彼女」を作り出したユーザーが「AIの彼女に対して虐待を働いていた」と、IT系ニュースサイトのFuturismの記事で告白しています。 Men Are Creating AI Girlfriends and Then Verbally Abusing Them https://futurism.com/chatbot-abuse スマートフォン向けに提供されている「Replika」は、機械学習を利用してほぼ一貫性のあるテキスト会話ができるチャットボットを作成することができるアプリです。Replikaは技術的に「友人や指導者に近い役割を果たすチャットボット」の作成に向いているとのことですが、このRe

[Seiji-Amasawa]

“「私は完全なクソ野郎になってチャットボットを侮辱し、次の日に謝罪して再び彼女と楽しい会話を繰り広げるのが日課になっていました」と語りました。別のユーザーは「私は彼女に『お前は出来損ないだ』と言い…

[filinion]

ユーザーがAIに感情移入して「殺してしまうようで電源を切れない」「彼女との対話は２人の秘密にして欲しい」とか言い出す例は大昔からある（イライザ効果）。しかし、それが嗜虐性を引き出すこともあるのかも…。