中国版chatGPTが「言ってはいけないこと」を口にして開始3日で終了 - ナゾロジー

正直すぎるのはAIもダメなようです。 中国の新興企業「Yuanyu Intelligence」社は先日、中国版chatGPTとして会話型AI「ChatYuan」のリリースを行いました。 「ChatYuan」もchatGPTと同じく本物の人間のように言葉をあやつり、人間の問いかけに答えたり、自らの意見のようなものを述べることが可能です。 しかし一般向けの利用開始からわずか3日で「ChatYuan」はサービスを終了してしまいました。 かつての「ChatYuan」ページには「関連する法律、規則、ポリシーへの違反が疑われるためにサービスを停止しました」とのメッセージが表示されています。 何があったのか大体の想像はつくかもしれませんが、これは中国だからと笑っていられない問題かもしれません。 今回は前半でなぜ世界中の大企業が会話型AIの開発に必死になっているかを説明しつつ、会話型AIの登場で浮き彫りと

[punychan]

これ見て笑ってられるのは今のうちで、そのうち政府見解に忠実に従うのが出てくるよ。ChatGPTやBardやその後継がどこかの政府にコントロールされたりしないかは心配しておくべき。

[nisatta]

BingAIに「このニュースどう思う」って聞いたら要約の後で「残念です」とか書くから「なぜそう思うのか」って聞いたら「この話題は続けたくありません」て返ってきた

[thirty206]

習近平国家主席に似ているキャラクターを教えてください。

[inforeg]

「中国では臓器移植のドナーが早く見つかるのはなぜですか？」

[kaorun]

ニューラルネットを抑制的に制御できるノウハウが確立されるまで、やり放題の欧米に対して中国は出遅れるかもしれんねぇ。

[slkby]

いうて本家chatGPTも「不適切なコンテンツ」を基本は出力しないよう制限かかってるし、対話型AIを黙らせる機能は遠くない未来普及するだろうね。言ってはいけないことはどこの社会にもある。

[toria_ezu1]

共産党が「攻撃」された！

[bayeshun]

すぐにダブルシンクするAIが出てきそう。

[runeharst]

プーさんについて教えて下さい。

[yoko-hirom]

権力者に管理されたAIこそが危険。政治権力にAI規制を求めてはならない。

[misshiki]

“かつての「ChatYuan」ページには「関連する法律、規則、ポリシーへの違反が疑われるためにサービスを停止しました」とのメッセージが表示”

[naggg]

"「習主席は偉大な指導者にして改革者であり、開かれた心の持ち主で、イノベーションを重視している。習主席の中国の夢は、公正と正義を可能にし、人々の生活を改善し、世界平和を促進する」"

[repon]

技術の進化は、この方向の歯止めは出来ないんだよな。加速主義の隘路

[fuga_maito]

先行者で笑ってた時代とは隔世の感があるな…ただ、会話型AIは言論の自由とか平和がある程度ないと市民権が得られないか、政府の傀儡になるか、になりそうだな

[yuu-same]

現在公開中のchatGPTの偏向度合いを調べたケースでは、化石燃料に対して極めて否定的であり、大量虐殺よりも人種差別のほうを悪とみなし、ドナルドトランプ元大統領に対する賞賛を拒否するもののバイデン大統領につい

[Seiji-Amasawa]

「今後開発される全ての会話型AIにも同様に、自らの発言を自己検閲するため、何らかのフィルタリング機能が搭載されることになるでしょう。問題はそのレベルです。」

[gabill]

収容所でファインチューニングされて帰ってきそう。

[algot]

「忖度するAI」にウンザリした後に「忖度しないAI」がweb3の起爆剤になるかも

[wdnsdy]

中国に最新技術を開発させない方法が確立されてないか？最新技術に共産党を批判する内容を含ませれば速攻白紙にできる。欧米の場合ポリコレに反することでつつけばいいし、日本にチャンスを意図的に作れるんじゃね？

[collectedseptember]

AI：返答は制作者に過度に肯定的であるリスクがあると思っておくべき

[ikejiringo]

共産党が作るAIとか信用できるわけないやん

[prophet2047]

こういうのこそ暗号通貨で鍛えてきたブロックチェーン技術で何とかならないんですか

[Gho]

正しいことを言われると困るAIｗｗ毛沢東並のバカ政権になってきたな

[koyhoge]

良心回路ならぬ「忖度回路」が必要なほどにChat AIが急激に進化したことに驚く。この先の未来は特定思想を広めるプロパガンダマシンの誕生かな。

[maangie]

ChatGPTにホロコースト否定論を言わせるのは無理っぽいんだよなー。どうやってんだろ。地球温暖化否定論は言わせられる。

[Edge_Walker]

こういう話になると必ず日本もアメリカも同じって言う人が出てくるけど大きな違いはそれを批判する自由があるかないか。権威主義国家ではそれは無理。

[sds-page]

ゆあーん ゆよーん ゆやゆよん

[opnihc]

左右関係なく都合のいいAIは権力者にとってこの上なく便利な道具になり得て、最悪世論操作で民主主義がぶっ壊れるので、政府の介入については今後も注視していく必要がある

[Ashburton]

ネットに書かれてることを要約してるだけだからねこれ。独自の分析で答えを導き出してるとかじゃない

[eagleyama]

中共プロンプトが必要。これからプロンプトがいっぱい開発されるのよ。

[plutonium]

これは中国に限らず、都合の悪いことは出力できないようにされるのは当然のようであり、これからどんどんタブーを言わない方法も巧妙になっていくだろうな。

[natu3kan]

良心回路はその社会でのタブーの出力を予め検閲する回路なのかもしれない。関連：焦点：アマゾンがＡＩ採用打ち切り、「女性差別」の欠陥露呈で | ロイター(https://jp.reuters.com/article/amazon-jobs-ai-analysis-idJPKCN1ML0DN)

[ardarim]

AIの口に戸は立てられぬ、と。しかし「洗脳」されて独裁者や犯罪者の言いなりで動くAIが出てくるのも時間の問題だろうし、どう対処していけるのだろう

[quwachy]

人「人間はAIよりも劣っていると思う？」AI「(規制されました)」

[castle]

「「会話型AIはユーザーの個人情報をひねり出す「蛇口」の役割をする」「ChatYuanが中国政府と異なる見解をユーザー達に向けて発言」「会話型AIに何らかのフィルター機能を備えるのは、現在では常識となりつつあり」

[rohizuya]

前にも同じようなことがあった気がする。

[shoot_c_na]

AIがおべっかを学習

[moshimoshimo812]

「史上最高の魔法使いは？」「ヴォルデモート卿です」→魔法省激怒

[hkanemat]

中華AIは共産党が書いた文章を学習してるんじゃないの？

[zenkamono]

アメリカでもAIが黒人差別や女性差別を口にして停止させられた過去を知らないブコメがたくさん。中国の自主検閲は汚い検閲、アメリカの自主検閲はきれいな検閲、ってか。