24/1/28 「生成AIの『学習』は学術用語だ」ということをそろそろちゃんと説明した方がいい - LWのサイゼリヤ

お題箱から 797.生成aiについて無知なので質問です 下記のように学習元画像を合成したかのような元画像がでることから合成ツールと主張する人がいますが、実際に生成aiは合成ツールなのでしょうか？ https://x.com/r18rensyu/status/1745959957990965624?s=61 これ去年の今ぐらいまでなら学習してるから合成ではない論はまだ通用したかもしれないけど、明らかに学習元となる画像がポンポン出るようになってきてしまって正体は引用合成ツールだったのがバレちゃったんだよね。 https://t.co/e367C2DqWl — リハビリ用 (@r18rensyu) 2024年1月13日 質問に対する答えは「依然として生成AIは合成ではなく学習を行っている」で、このツイートは100%誤りです。「塩水を沸騰させると砂糖水になる」と同じレベルの端的な誤りで、議論の余地

[kozakashiku]

"もう少し卑近な処方箋としては、生成AIの仕組みがよくわからない場合には内部動作に踏み込まずに出力結果について議論した方がいいです"

[sds-page]

切り貼り論言い出すの何回目だよってぐらい何回説明しても蒸し返してくるので「学習」って言葉がどうこう言ったところで納得はされないと思うな

[ho4416]

日常語の「学習」だとしても引用切り貼り合成をしてるだけだという解釈にはならないと思うんだけどそういう合成マシンにしたい人たちがいるんだよね

[evans7]

誠実かつ学術的な言い方をするほど説明は複雑さを増していきそれについていけない知的水準の人は安易かつ断定的な間違った結論に飛びついてしまう。いつもの反知性主義。陰謀論・反ワクと繰り返され次は反AI。

[koo-sokzeshky]

反AIへの反論のなかで人間に例える人は実際結構居た気がする。あと、あらゆる意味で決定的に違うわけではないとか、法・倫理・文化などの話は別だとか断っていて好感が持てる。何にせよ決して簡単な話ではない

[ngoakr]

"まともな技術者は機械の学習が人間の学習と同じだとは全く思っていないはずですが"

[seachel]

これ読んでそら見ろAIと人間の学習が違うからAIはダメ、みたいな事を言い出す人間が出そう。絵や写真を見て特徴を割り出し再現するという流れ自体は人間も同等のことしてるのに。

[stepney141]

技術者サイドとしては良記事と感じたけど想定読者層がよく分からない。技術者向け・一般人向けの記述が混在してて、一般人にはこの記事の内容は伝わらない気がする

[InvisibleStar]

“数学的な操作の法的妥当性についての発言が、「まあ機械は人間と同じように学習しているからセーフだなあ」という正当化の発言だと誤解されるようになります”←はてブですげーよく見るやつじゃん

[tattyu]

Twitterを敵を説得出来るツールだと思わない方が良い。マジで対話は不可能。

[madooka]

分かりやすいしそれ以上に「今何の話をしていないか」が過不足無く挿入されていて、いかに普段から対話を試みているかが垣間見えて感動してしまった

[pascal256]

これは確かにその通り、と思いつつ一番区別が付いてないというか混乱の元は「学習」と「推論」が別の過程という事な気もする。

[hom_functor]

これだけわかりやすく誤解を説明されても「ほら見ろ人間の学習とは違うんだ」みたいなこと言っちゃう、何一つ読み取れていないブコメがいてビビる

[yorkfield]

「これは『学習』ではない証拠だ（人間と同じ『学習』をしているならばサインをそのまま出すことはないはずだ）」＞学習って言葉の無理解だけでこんな考え方するかなあ。学習した人間だってサインそのまま出せない？

[quick_past]

医療現場で言う「軽症」「重体」、宇宙関係等の技術部門で言う「中断」「失敗」等もだよねこれ

[jgariufwhjiwrgu]

そもそも人間が学習に使う脳細胞は有機物で機械学習に使うGPUは無機物なのに混同する人がいるのはビックリ

[July1st2017]

AIを使って結果を出力しているのは人間なのでな。技術が進んで既存の著作と類似性のある結果は出力しないAIを作ればいいじゃん。エロ厳禁なAIがあるわけだし。

[splaut]

まぁ無駄に学習の同一性に拘ったり逆に細かい所挙げて人間と機械の学習の違いを挙げた所で法的にも事実上もそこまで意味は無いポイントなんだよね。

[bxmcr]

言葉に対する印象でもトラブル起きてたのか……内部の挙動はともかく、結果の絵が著作権侵害なら著作権侵害とするしかないよね。学習を著作権フリーにしちゃったのは日本の先走りだったなと……

[nankichi]

今の技術で、生成系AIが作成するレベルの　画像合成が自然にできるのなら　別のシンギュラリティでは。

[preciar]

人間の「学習」も過程不明（LTD/LTPによる物理的な伝導系路の形成までは解っても中身はブラックボックス）で個体差大（丸コピー「学習」する障害者とか）。なので、出力が似る機械の学習も同じに扱うしかなく文字数

[asazukekun]

人間はピカソの絵をピカソの絵と判断する時にどういうプロセスを辿るかと考えた時に「人間の脳や精神はどう動いているのか」っていう話にはならんと思うんだけど？特徴の抽出・分類は人間も行っているよね。

[nisisinjuku]

同じ「学習」という言葉が使われたからと言ってAIの「学習」が日本語で広義に使う「学習」とは内容が違う。ということね。

[fukken]

「学習」した画像の枚数と、それを記憶したデータベースとしてのモデルのデータサイズを見れば、学習対象となった個々の画像など再現不可能な事は自明だろうに。

[grankoyan2]

わからない人ほど騒ぐからなぁ何事も

[auto_chan]

人間のニューロンネットワークが学習するのとAIのニューラルネットワークが学習するのはぜんぜんちがうよ！ぜんぜんちがうんだからぜんぜんちがうよ！……つまり……ぜんぜんちがうよ！ぎろんはよけいこんらんした！

[snipesnaps]

とにかく何を言ってもAI憎し叩きたい目的を果たすために「AIは小さな違法JPEGをたくさん持ったDBから合成を行ってて糞」としか理解しない輩をどうにか黙らせるには有効かもなあ。「数学的にいう「学習」というプロセス

[NOV1975]

こっち方向で突き詰めるとちょっとAIという言葉を使いたくなくなってくる

[kazu111]

その「学習」で「特徴をつかんで情報整理·辞書引き活用」できてしまうわけだ。将来的に北斎の絵の特徴をつかんだAIチップを頭にいれ、幼稚園児が手軽に練習ゼロでポケモンを北斎の画風で書いたりできるようになるの？

[ublftbo]

日常語が専門的定義を持っている場合はありますね。たとえば学習心理学における《学習》は、《経験による比較的永続的な行動の変容》だったりします。

[shiju_kago]

Xの連中は対話のための議論やってないからこういうのを出しても『うちはちゃんと説明したぞ』というアリバイにしかならないと思われる。もはやゲハと同レベルだからなあそこは

[nemoba]

うーん。"合成"ではなく"合成のような学習"って問題にしてるだけじゃね？そこを分離してもあまり核心は目指せない気がするな。Fine-tuningの段階でバイアス埋め込みすぎたら合成やろつう新しい定義しても面白いかもけどｗ

[pwatermark]

言葉の違いは確かにあるんだけど、それは本質じゃない気がするなあ 人間の「学習」だって何をどう処理してるかは未だに不明確なんだし

[dtg8]

本来学術的知識が必要なツールが、何も知らない素人がワンポチで使えてしまうようになったことに起因するので、用語がどうこう説明しても無駄では…

[trace22]

「切り貼り」は「切り貼りしたように見える」であって、そこ否定しても意味ないという著者の主張が全く理解されていないブコメ群

[yuma_0211]

だから生成AI信者が人間と同じ学習だからセーフ理論をめちゃくちゃ使ってくるんだって。どっちが反知性主義なんだか（この言葉を使う人は自分の頭をよく見せたいマウント欲を満たしたいだけの使い方が多くて嫌い）

[WildWideWeb]

「教師付き学習」とかも何とかしないと。あとはlearn＝学習という一語一訳の呪縛にも個人的には関心が向かう。直接関係ないけど「濃厚接触」って専門用語、最初聞いた2020年1月、多くの人は「えっ？」と思ったはず。

[rgfx]

その論立てで回避できることと回避できないことがあるんだよな。「著作権法上の議論は出力結果の話だけでも十分に意義があります」が本当にそう。あと不正競争防止でも普通に引っかかる。

[kagerouttepaso]

そもそも議論ではなくクサするための頭が良さそうな理由を欲しているのだから焦点が合ってない。版権キャラの服を剥くのはOKで自分の絵が似せられるのはNGな人達だ、そういう議論が噛み合うはずがない。