「話題を変えましょう」 ウイグルや台湾について百度の対話型AIに質問

百度が公開した対話型AI「文心一言」で、台湾をめぐる紛争の可能性について質問した際に表示された「別の質問を入力してください」のメッセージ。中国・北京で（2023年8月31日撮影）。(c)GREG BAKER / AFP 【8月31日 AFP】中国のインターネット検索大手百度（バイドゥ、Baidu）は31日、対話型AI「文心一言（ERNIE Bot）」を一般公開した。 中国で使用が禁止されているオープンAI（OpenAI）の「チャットGPT（ChatGPT）」の中国版と言えるものだ。 AFPが文心一言を試験的に使ってみたところ、厳しく検閲されており、天安門（Tiananmen）事件などタブーとされる質問に対しては、政府公認の回答が返ってくることが分かった。回答を拒否することもあった。 中国政府の機微に触れる話題に対する文心一言の回答を紹介する。 ■台湾 中国政府は台湾は自国の一部だと主張して

[graynora]

誰が質問したかの個人情報が政府のデータベースに追加され何らかのフラグが立つまである気がする。

[mekurayanagi]

対話型AIは学習元制御すれば出したい回答を導けるので実は思想統制には向いてるって言ってた専門家がいたと記憶するが、いまはこの手のあからさま拒絶だけど、将来的にはもっともらしいニセ歴史が回答されるんだろう

[hozho]

“AFPが文心一言を試験的に使ってみたところ、厳しく検閲されており、天安門事件などタブーとされる質問に対しては、政府公認の回答が返ってくることが分かった。回答を拒否することもあった。”

[maturi]

時を戻そう

[tokorozawasawako]

開発者が自己防衛で設定したのだろうか。それとも当局の方から「触れてほしくないことリスト」を渡されてそれを元に設定してるのだろうか

[naggg]

ブロックってのは有人で監視してるのかな？？

[goronehakaba]

学習が足らんな、相手をネトウヨ扱いすれば即座に大勝利だというのに。はてなで学習せよ

[Domino-R]

まあまだ嘘をつかないだけでも誠実かw

[mozukuyummy]

ラファティのSF小説「その街の名は」に出てくる歴史改変装置が現実のものになりそう。

[Ereni]

『文心一言アプリが中国政府の直接の管理下にあるのかと尋ねると、質問がブロックされた。政府が回答を検閲しているかという質問には、「それについての対応を習得していません」との答えが返ってきた』

[akghuaiooajt]

正直日本も似たようなことしてると思うけどな

[grdgs]

「その指摘は当たらない」と人工無脳のごとく繰り返したあの政権とそっくり。行動原理も中共とそっくりだしな

[greenbuddha138]

国が嘘つきだとAIも嘘つきになる

[hkanemat]

中華AI、さもありなん。「習近平による新時代の中国の特色ある社会主義思想」を学習してる(させられてる)んだろう。民主主義陣営と共産主義陣営では全く異なるAIが作られそう。って、人間も同じか。

[runeharst]

ある程度そういった質問を繰り返すと当局が訪問してくるやつだろこれ

[kazyee]

（思想的に）訓練されたAIが公に出てくるのは、良くも悪くも手本にはなるか。

[daybeforeyesterday]

うーむ

[benking377]

何回かやるうちに、話題を逸らされなくなった時が怖い

[July1st2017]

くまのプーさん…

[k_igrs]

ちなみにgoogle birdで日本が日中戦争で行った非人道的行為について質問するとそんな質問には答えられないってでるぞ。

[mmuuishikawa]

AIが洗脳されてる（笑）

[dojoab]

あーあ、このAIも思想改造施設に送り込まれるのかw

[uehaj]

誰かジェイルブレイクしないかなぁ

[odenboy]

これだから中国共産党は人類の癌。中国共産党を倒せば多くの人の自由と人権を取り戻せる。平和も訪れる。

[cosmosquare77]

「再教育」を受けたChatGPTみがある。

[TakamoriTarou]

まそうよねえ

[meishijia]

やってみようかと思ったけど、アカウント作って個人情報を渡すのがもう無理。イエスマンによって育てたられたAIと対話する意味とは。もはやAIというよりも共産党の声でしかないという。

[ebc08265]

“ご自身の責任で利用してください”怖すぎるんだが

[gm91]

プーちん好きですか？　プーさんは？