AIによる自動文章作成ツールがあまりにも高精度のテキストを簡単に作り出してしまうため開発陣から「危険過ぎる」と問題視される

by rawpixel AI(人工知能)を用いた映像変換技術「Deepfake(ディープフェイク)」の文章版とも言うべきテキストジェネレーターを、イーロン・マスク氏らが出資する非営利のAI研究組織であるOpenAIが開発しました。しかし、あまりにも高精度のテキストを簡単に自動生成できるため、開発陣が「あまりにも危険過ぎる」と危惧しています。 New AI fake text generator may be too dangerous to release, say creators | Technology | The Guardian https://www.theguardian.com/technology/2019/feb/14/elon-musk-backed-ai-writes-convincing-news-fiction OpenAIが「GPT2」と呼ばれる新しいテキスト

[nyokkori]

星新一先生の作品なら、この後政治家の発言や会社経営なども自動生成で実行するようになって人類は日がな一日ソファで無気力に過ごす。AIを発明した博士がこんなハズでは無かったと呟き、続きの発言はAIが書き連ねる

[gryphon]

例えば既刊の「グイン・サーガ」のテキストデータを読み込ませれば、続編を執筆してくれるのだろうねぇ。

[hevohevo]

これネット上に放置しておくと無限にそれらしい文章を生み出すやつだ。特定の主張をテーマにした文章をネット上に大量に垂れ流すことでその主張をネット上で流布させることが容易に。株価操作にも使えそうね。

[maple_magician]

既存メディアっぽい

[gabill]

ますますネットがゴミの海になる...

[uehaj]

ネトウヨサイトを何百倍、何千倍も低コストで運用できるわけね。特定利用者やテーマに対する粘着コメントを1年365日(運営にギリギリ人間と判定される頻度で)発言し続けることもできそう。

[laislanopira]

釣り見出しを人間が作ると、GPT2がそれらしい本文を作ってくれる。どうせみんな本文は読まずに見出しにしか反応しない

[wwolf]

これは逆に報道やメディアというものが役に立たなくなり、一次情報自ら情報を発信するべしという流れを後押ししそう

[questiontime]

これを機械翻訳に応用すれば、今より数段まともな翻訳文が作れそう。海外からくる詐欺メールの文章がもっともらしくなるということでもあるが。

[humid]

“主人がオオアリクイに殺されて1年が過ぎました”からどう展開するか見てみたい。

[coherent_sheaf]

"GPT2は数単語の入力により、それ以降に来るであろう文章を予測し自動生成することができるというAIモデル。アウトプットの品質が高く、潜在的にさまざまな用途への応用が効く"

[gogatsu26]

既に今もどっかの誰かがよくわからん文章を垂れ流してるので、これの何がどう危険なのかよくわからん

[paravola]

海外掲示板のRedditで3票以上獲得しているリンクを探し、該当する約1000万件もの記事をデータセットとしてトレーニングが行われている

[arajin]

“GPT2は数単語の入力により、それ以降に来るであろう文章を予測し自動生成することができるというAIモデル。”

[Yoshitada]

今日友人と「設定だけ考えて、実際の執筆はAIにやらせる作家とか、これから出てくるんじゃないか」と話したばかりなのだが……。

[diveintounlimit]

だいたい1行目以外どうでもいいTechCrunch（本家のほう）の記事くらいなら書けそう。

[riawiththesam]

読む側もAIで武装して元ネタを探り、AIで要約した文章を読もう

[peketamin]

検索エンジンが機能しなくなるのかな

[birds9328]

…お客さんへの障害報告書、自動生成出来ないかな('A`)

[etr]

“昨日、近所の吉野家行ったんです。吉野家。”の続きが読みたい。

[sirocco]

いよいよ未来がやって来ました。

[su_rusumi]

ブコメもbotの方がおもしろくなるよ

[quality1]

アフィブログ大量生成されそうだな

[hotelsekininsya]

そのうち、AIが書いた文章がどうかを判定するAIサービスが生まれて、イタチごっこになる奴だw

[otihateten3510]

そろそろ情報の信用度を測るサービスが注目されると思うんだけど、誰かやらないの？ 俺はめんどくさい。

[ydf]

最初の一行目を自動生成するようになった時が本当の脅威。

[Helfard]

適当な文章の無難な続きを自動生成してくれるのであれば、ある程度の方向性を示すことでなろう小説くらいは連載できるかもナ－？

[yoshikidz]

へー興味しかないなw

[tokyocat]

《数単語の入力により、それ以降に来るであろう文章を予測し自動生成することができる》《アウトプットの品質が高く、潜在的にさまざまな用途への応用が効く》《簡単にもっともらしい文章を生成することが可能》

[sukekyo]

クソブロガーの「○○について調べてきました」はじまりの「いかがでしたか」終わりの文章なんか「こんなうんこみたいなの生成したくありません」って拒否されそうね。

[Windfola]

フェイクニュースと「いかがでしたか」の供給者に強力な武器を与えることになるのを危惧するのはわかる。ある程度意味が通じるレベルになっていれば、質なんて気にしない彼らは使うのを躊躇しないだろう。

[zubtz5grhc]

むしろ普及して、謝礼謝罪報告書の類はどんどんAIに任せたい。本業以外の人が文書作成に時間を割くのって、結構勿体ないと思うの。

[aoiyotsuba]

コピーライターはどうなるのか

[tsutsuji360]

日本語対応はよ

[shinoppie]

ゴミ文書が大量に溢れて検索が機能しなくなるとか？

[kamiokando]

読書感想文が捗るな。

[blueboy]

増田や twitter ですでに（人力で）実現しているやつだ。　出来のいいのがホッテントリに入るが、見抜かれて嘘松判定されることも多い。　　https://togetter.com/li/1319832