YouTuberが4chanでAIを訓練して「ヘイトスピーチマシン」を生み出しネットに放流してしまう、AI研究者は困惑と懸念を表明

世界最大規模の画像掲示板である4chanは、多くの匿名ユーザーによりサブカルチャーから政治まで幅広いトピックの会話が交わされていますが、比較的検閲が緩いため過激な言論やヘイトスピーチの温床にもなっています。YouTuberのYannic Kilcher氏が、4chanの中でも特に物議を醸す「/pol/(Politically Incorrect板、政治的非中立／政治的に正しくない／非ポリコレ板)」から抽出した330万件のスレッドで訓練したAI「GPT-4chan」を作ったところ、過激で人種差別的な発言をまき散らす「ヘイトスピーチマシン」が誕生してしまったとのことです。 This is the worst AI ever - YouTube AI Trained on 4Chan Becomes ‘Hate Speech Machine’ https://www.vice.com/en/ar

[Domino-R]

"私が聞いているのは『危害』に関する曖昧で誇張された声明だけですが、実際に害が及んだ事例はまったくありません" /よくあるタイプの詭弁で、いろんな分野で毎日のように目にする。全くうんざりだな。

[mozukuyummy]

いにしえのインターネットジョーク「2chには、俺とお前とスクリプトの3者しかいない。 」が現実になってしまった感。

[circled]

このbotが不快なのは、そもそも自分の姿を鏡で見てるからだろ？(AIが4chanの人間の書き込みを元に生まれたのだから、その不快感は人間そのものに向けられてる)

[cinefuk]

Microsoft Tayちゃん（2016）の悲劇ふたたび https://b.hatena.ne.jp/entry/283170935/

[quick_past]

日本のネット言論だって、青のなりすましとウヨがお互いにお互いを認識できずに、本当にお互いを敵同士と認識して殴り合ってるかもしれん。

[sisya]

GPT-ヤフコメを作ってみてほしい。GPT-ブクマカでは振り切れ方が足らない。

[hunyoki]

逆にこのbotの書き込みで掲示板を飽和させたら誰もヘイトスピーチを真に受けなくなるんじゃね

[rgfx]

「あ？俺とお前以外ぜんぶスクリプトだよ(´ー｀)」／これを「ロシア擁護な共和党大好きっ子」バージョン on Facebook でやってないだけまだ（どっちも良くない）

[sechs]

このbotはヘイトスピーチを呆れさせるのに使えるかも知れなくて非常に有効かも知れない。botより知性が低い書き込みをしてると自覚できるか。

[fhvbwx]

はてなでAIを訓練するなよ、するなよ、絶対するなよ。

[ostchanman]

「彼はユーザーに知らせることなく、同意や監督なしに人体実験を行いました。これは人間の研究倫理のあらゆる原則に違反しています」同意なしに評価ツールなんかを企業内で適用する方、まさか日本にいませんよね...

[misshiki]

“4chanの中でも特に物議を醸す「/pol/」から抽出した330万件のスレッドで訓練したAI「GPT-4chan」を作ったところ、過激で人種差別的な発言をまき散らす「ヘイトスピーチマシン」が誕生してしまった”

[totttte]

記事中で最悪なマッドサイエンティストに正論で批判してる人居るのが草だった

[todesking]

最高のニュースだ

[mysql8]

GPT-建設的コメントchan作ったよ ʕ•̫͡•ʕ•̫͡•ʔ•̫͡•ʔ•̫͡•ʕ•̫͡•ʔ•̫͡•ʕ•̫͡•ʕ•̫͡•ʔ•̫͡•ʔ•̫͡•ʕ•̫͡•ʔ•̫͡•ʔʕ•̫͡•ʕ•̫͡•ʕ•̫͡•ʔ•̫͡•ʔ•̫

[pokoyakazan]

なんか全体的にゾワッとする記事

[yamada_k]

この荒らし行為も問題だけど、4chan のヘイトスピーチがそもそも問題。

[hetarechiraura]

はてなにもbotくせえのいるじゃん、ものすごい件数のテンプレブコメ付けまくる自称社長とか

[mayumayu_nimolove]

面白い

[minamihiroharu]

スイミングプールにクソを流したら怒られて当然だが、肥溜めに流したのだから問題はないだろ、みたいな言い訳であるな。　これ、差別者は騙していいし傷つけても構わないって了見が裏側にあると思うんだよ。

[tokidokidj]

極めて攻殻機動隊的だ

[strawberryhunter]

私はGPT-ツイッタラーを希望したい。

[July1st2017]

あなたはロボット…

[star_123]

全自動超高速便所落書き機

[ogawa0071]

サマーウォーズにあった

[prjpn]

特定の性癖の方には需要あるような

[nack1024]

割と好き

[karukaru7]

ゾクゾクする。

[kei_1010]

「そもそも4chanの環境自体が非常に悪質なため、botが展開されたところで影響は及ばない」それなら安心だねっ！！

[omega314]

まあ「悪い」としたら投稿数が多過ぎたことくらいか。

[napsucks]

AIネトウヨならtwitter上にいくらでもいると思うが。あれもしかして人間だったりするのかな

[tianbale-battle]

今の人類がAI開発を進めたら、間違いなくスカイネットができるな

[finefinethankyou]

10のプロキシサーバーから3万件を投稿するbotを実装する力もすごい。誰かが秘密裏にやれることを公にやってくれたのはありがたいと思う。モデルが非公開になって、企業の独占技術になる流れは加速しそう

[cubed-l]

技術者倫理をどこに置いてきたのか

[PrivateIntMain]

教材の不備を指摘できるのは教材外の知識があるからで、教材が偏ったらそうなるよね

[dtldtl]

これをテクノロジーで解決するのがテクノロジーの責任

[taiyousunsun]

“投稿したコメントの数は24時間に1万5000件、48時間で3万件に及びました。 これは「/pol/」板の書き込みのうち10％以上を占めていたとのことです。”

[kotublog]

爆サイでAIを訓練させたら楽しそう