｢ChatGPT｣に浮かれる人が知らない恐ろしい未来

2022年11月の公開から瞬く間に大旋風を巻き起こしたAIチャットボット「ChatGPT」。その技術を自社の検索エンジン「Bing」に取り入れたマイクロソフトと、生成AIの進化に貢献した深層学習の手法「Transformer」を生んだグーグルによるAI競争も、熾烈さを増している。 一方で、こうした生成AIの回答には誤りも多く、社会にもたらす悪影響への懸念がくすぶる。このテクノロジーとどう向き合うべきなのか。国立情報学研究所 社会共有知研究センター長で、2011年にスタートした人工知能プロジェクト「ロボットは東大に入れるか」のプロジェクトディレクタを務めた新井紀子氏に聞いた。 ――ChatGPTやBingchatが続々と公開され、自然な受け答えを評価される一方、誤りの多さについて懸念も上がっています。 Transformerの登場以降、書き手が人か機械かの見分けがつかないほど、AIの生成する

[hatebutabooboo]

いろんな記事見てて思うけど、まず人間が誤りだらけじゃん。chatGPTやってて間違っても自信満々なのは私は実に人間らしいと感じてしまう。

[anigoka]

確率ベースのchatGPTに理解ベースの東ロボがボロ負けして悔しいのぅ悔しいのぅ｜中高生の読解力を例にとって人間の抽象思考が理解ベースじゃなくて確率ベースだって提唱してたのはアンタ自身やんか

[stabucky]

本当にAIの研究家なのか？ まだ不完全なのは誰もが分かっていること。自分達の研究のはるか上を進んでいるから難癖をつけているように思える。

[yP0hKHY1zj]

むしろ「情報には嘘がたくさんある」ことを知らない人が多すぎる現代の方が恐ろしいと思う。

[ichise]

やたら未熟な技術であることを強調しようとしてるんだけど、間違いと意図的な嘘の違いを区別してないので、論旨が無茶苦茶になってる。技術的にボロ負けした私怨入ってるよなぁ。

[kei52588]

ChatGPTって「文章生成AI」ってこと忘れてない？知識の正しさでどうのこうの言うのがそもそもおかしいと思う。

[suikyojin]

チェックする方が、作り出すことより、はるかにコストがかかるようになる。何らかの規制がかからないと、デタラメばかりが広まってしまう。メールがスパムで衰退したことを忘れてはならない。

[WildWideWeb]

これに限らず素人はビッグウェーブに浮かれるのが最適解。問題が起きてから「ああ怖い怖い、知らなかった、騙された」でやっていけるし、参加したくせに「俺は知ってた」と事後諸葛亮に変身することすらできるし。

[hesopenn]

ChatGPTはファクトを出さない、というのは間違ってはいないけど、いま生産的に使っている人はそういう使い方してないからなぁ。けっきょく情報の取り方が上手い人が得をする、以上のことでしかないかも。

[duckt]

間違いだらけなのは人間と大差ないとしても、ここで問題とされているのはその圧倒的な量とスピードだと思うけど。だからファクトチェックが間に合わないという話だよね。

[kawakami-mas626]

ここでコメントしている方々は上手くAIを使いこなせるかも知れないけれど、何でも人から結論を聞いて満足している多くの人たちには危ないな。

[nekonyantaro]

「自信満々かつスムーズにウソをつく“サイコパス”っぽさ」まさにこれが問題。人は「ポーカーフェイス」に弱い。昔から「嘘は自信ありげにつけ」という言葉があるらしい。/ 天国の誰かさん：「呼びました？」

[H58]

ポジショントークなのでしょうか。インタビューだからなのかな。保守的な人を安心させる立場でしょうか。

[room661]

記事読んで真っ当な論考だと思ったがコメ見たら著者のペルソナに対する罵倒だらけでびっくりした。何があった…？

[quelo4]

“ChatGPTをすごいと感じてしまう現象は、受け答えの正しさより、自信満々かつスムーズにウソをつくサイコパスっぽさに起因している→知的レベルが高い人でも「こっちが正しいんじゃない」と信念心理を揺さぶられる”

[TakayukiN627]

既にWebには嘘があふれている。なので、「ウェブ」という資源は既に失われている（これから失うのではない）。

[yamasamayukisama]

自分が感じていたけど言語化できなかったことが上手く表現されている❝ChatGPTをすごいと感じてしまう現象は、受け答えの正しさよりも、自信満々かつスムーズにウソをつく“サイコパス”っぽさに起因している❞

[estragon]

ChatGPTが書いた記事が氾濫して検索結果が汚染されて使い物にならなくなるって未来はあり得るな。「誰が書いたか」「どこに載っているか」がレーティングの重要な要素になりそう。牧歌的なWWWの価値観の終焉

[repon]

破壊的な技術だとは思うけど、言われている「民主主義」がさっぱりわからなかった。独裁制の反政府組織だって、民衆に訴えかける「兵器」として利用できるだろうし。身体なき「虐殺器官」ができたってことでしょ

[masadream]

最後の「ネット上がChatGPTにジャックされる可能性」は同意できるけど、それ以外は同意できない。えらい感情的な文章に見えましたが何かあったのかな。

[yamada_k]

研究者にしては評論家みたいな話だなと思うけれど、誤情報が増えて混乱をもたらすのは、そうかなと。

[otchy210]

この記事を鵜呑みにするのもどうかと思う一方、直近 Wikipedia は確かにやべーな、と思った。Wikipedia に対し広範囲のページ・言語に自然とデマを埋め込むモチベーションは、ある。そして人力の校正では抗しきれまい。

[isrc]

自信満々かつスムーズにウソをつく“サイコパス”っぽさ／「ファクトを知る権利」のような法律を作りコストを負担させる／自動生成された文書に対してはアラートを表示するよう義務づける

[HxN]

コメ見て呆れた。本質は「未熟なAIによる嘘記事の大量生成」既に自動生成や陰謀論が検索結果を汚染している現実を知らんのか？ 機械的な自動抽出が効かず、出自の権威で選別するしかなくなったらそれこそ悪夢では？

[zakusun]

人間が人を支配しないとか嘘をつかないとか間違えないという事実もない。AIの解答が0点というのは今はまだそのレベルということでしょう。未完成なんです。まだまだ学習するし進化する。なぜ途中で評価する？諦める？

[ryosuke134]

根本的に人間自体が誤りの総体みたいな存在なので、ChatGPTに対して誤りを許容しないって態度自体が誤りの総体であることを歌づけているようにすら感じますよね。使い方と向き合い方、リテラシーが必要ってことです。

[Pinballwiz]

AIにツンデレ口調で罵倒してもらうために順番待ちしてる現在が恐ろしいよね…。

[sisicom]

CHATGPTのウソに注意

[higutti3]

ChatGPTって爆発的人気と言える程ではないような。使いづらくて一般の人が問題なく使えるレベルには至っていないし。

[bnckmnj]

お前たちは愚か、というご高説が記事の趣旨なのがもうさー。嫉妬じゃん、ってなる。／こういう風に上手に使いましょう、みたいな余裕はないんだな

[karukaru7]

現生知識人が死んだ後の世界が心配。AIが適当な事言って人類飼い慣らしそう。まぁインテリ層がAI層に変わるだけで知識もフィクションて事かねぇ…。

[yasaigakirai]

自動運転も事故の時誰が責任取るんだ普及しない、って言う人いたけど、人類は便利な道具を使う誘惑には絶対抗えないよね。ただし魔法に見えるほど技術が発達した結果、人の意識から論理が後退する方向性はありそう

[z10a41dcb]

自分の組織の能力を棚に上げて、大学入試問題を解けるAIの実現は無理とかなんとか仰っていた人に今更講釈されてもなあ。

[alt-native]

この著者 AIの使い方を分かってない。AIはあくまでツールなんだよな。

[morinaga3]

chatgpt

[motoyat]

既に本邦で民主主義は破綻してしまっている以上、こういう技術が資本家に独占されない形で出て来ていることは歓迎するべきだと思うけどな。

[ET777]

chatGPTは言語モデルであってアドバイスしたりするものではないとログイン時か何かに出ると思う。あと学習データは2021年まで。Bingはそれに検索が加わった形？ただウェブが汚れるのはそう思う

[ghostbass]

そのロジックだと人間こそが危険なので人間を滅ぼすしかない

[taguch1]

人間が嘘のニュースを政府から頼まれて流しても逃げきれそうだからAIでも大差ないかwどちらかというともう恐ろしい現在をどうするかで失敗してるよ。

[kiki-maru]

まあ、少し前にもChatGPTでアフィブログ一瞬で作る方法教えますみたいなのもいたし、ネットの汚染が更に酷い方向に進む可能性はあるんじゃなかろうか。