Anond AI開発日記 - Hatena Developer Blog

こんにちは。Anond AIを研究している id:cockscomb です。 私たちはこの度、このAI時代を制するプロダクト、Anond AIを開発しました。本エントリではその詳細について説明します。 Anond AIとは Anond AIはいわゆるGenerative AIで、人類が匿名で日記を書くことをアシストしてくれるものです。私たちは日記に芸術性を感じる文化を持っていて、「日記文学」という言葉もあります。Generative AIによって、名前を隠して楽しく日記を書くことをサポートし、匿名日記文化のさらなる発展に寄与できないか、と考えました。 Anond AIは、rinna/japanese-gpt2-mediumをはてな匿名ダイアリーのデータを用いてファインチューニングし、ドメイン適応させたものです。 Anond AIの開発 Anond AIは実験的なプロダクトのため、Hatel

[cockscomb]

AIが生成したテキストに「透かし」を埋め込む手法について紹介しています

[mayumayu_nimolove]

有用ないかがでしたかblog。透かしのところは勉強になった。

[hakobe932]

透かし面白い

[tick2tack]

GPT2ベースにファインチューニングで増田っぽくしてると。透かしの話はちょうど最近知ったんで、もう実装されてるのすごいと思った。

[rain-tree]

エイプリルフール用だと思ってた |“rinna/japanese-gpt2-mediumをはてな匿名ダイアリーのデータを用いてファインチューニングし、ドメイン適応させたもの”|“生成したテキストには（略）「透かし」を埋め込んでいます”

[misshiki]

“Anond AIはいわゆるGenerative AIで、人類が匿名で日記を書くことをアシストしてくれるものです。”

[irimo]

透かしについてなんとなくわかってありがと

[yamada_1221]

AIが書いた文章の透かしについても記載

[TakamoriTarou]

そのうちこれがはてなでアフィ記事量産するクソ記事製造支援になると考えるとこの世は地獄

[ebo-c]

透かし≒文章の癖と表現できるのかな。以前テキストの圧縮率が固有の値に収束することを用いて論文の著者を同定する研究を見た

[dltlt]

つまり、ユーザ側で後処理を入れると「透かし」が消えるということか。

[y_uuki]

日本語で事前学習されたGPT-2モデルを基にanondのテキストでファインチューニング+言語モデルの生成文に電子透かしをいれる最新手法

[lbtmplz]

なんか自虐的なことばっかり言うんだよな

[blueboy]

　“ このAI時代を制するプロダクト、Anond AI ”　→　ホラを吹くにしては、エイプリルフールを１日過ぎているんだが。　” 引き続き細々と改善予定 ”　→　１日限定のネタじゃなかったの？　無駄。／ スカした野郎だ。

[razokulover]

透かし面白い

[daiksy]

AIが生成した文書かどうか判別できるように文中に「透かし」を入れる手法、知らなかった。すごい。

[kiyo-shit]

透かしめちゃ面白い

[pmint]

このトークナイザーってモデルそのものじゃないの。

[yarumato]

“rinna/japanese-gpt2-mediumをファインチューニング（前後の例）。生成したテキストには「透かし」を埋め込み。モデルが持つ語彙（トークン）を2群に分け、第1群選択確率を底上げ。統計的に検定で透かし判定”

[sds-page]

透かし面白いけど使いどころが難しそう

[slkby]

違和感なく電子透かしできるとおもしろい

[AKIT]

透かし！スカしてるな！

[opnihc]

「AI時代を制するプロダクト」という渾身のジョークに誰も反応してなくて淋しいな。俺は面白かったぞ

[kuzumimizuku]

今の最新AIのような「正確性」「納得感」「ナチュラル感」を期待すると肩透かしをくらうけど生成される文章自体は「言葉のサラダまでは至らないが違和感を感じる程度の精度」で文章として好みなんよね。

[shunkeen]

“一つ前のトークン（のハッシュ値）を元にして分けています”／ハッシュ値を見るとこがブロックチェーンっぽさを感じる。一つ前のトークンだけ見るから単純マルコフ連鎖っぽさもある。文章透かしおもしろー。

[auient]

AI生成の文章に透かしを入れることができるという話。「判定にはトークナイザ,ハッシュ値の計算方法,γが必要」

[a-know]

“そこでAnond AIが生成したテキストには、次のプレプリントの論文を参考に、「透かし」を埋め込んでいます。”

[t_f_m]

"Anond AIが生成したテキストには、次のプレプリントの論文を参考に、「透かし」を埋め込んでいます"

[NEXTAltair]

エイプリルフールじゃなかったんだ

[dec123456789]

GPT-3でfine-tuning出来るのでそっちを組み込んでほしい。

[onishi]

開発後記