「映像も物理も、微分可能になるとすごいことが起きる」ということの意味を文系にもわかるように説明しようと試みる

「映像も物理も、微分可能になるとすごいことが起きる」ということの意味を文系にもわかるように説明しようと試みる 2021.07.26 Updated by Ryo Shimizu on July 26, 2021, 07:12 am JST 最近のプログラミングの新しい波は微分可能プログラミング(differentiable programming)である。 微分可能プログラミングとは、簡単に言うと・・・と思ったが、簡単に言うのは結構難しい。 まず「微分」という言葉があまり簡単ではない印象がある。 まずは微分と積分の関係性を説明しておこう。文系の読者に向けた記事であるので、非常にざっくりと説明してみよう(そのかわり、元々数学が得意な読者にとっては直感的ではない説明になるかもしれない)。 まず、瓶からコップにジュースを移すような状況を想定してみる。 瓶からコップが一杯になるまで60秒で注ぐとし

[RySa]

未来に向かっての差分傾向を学習する事をDifferentiableと呼んでるのだろうけど、数学的な微分と混ざるので微分可能とは読んで欲しくない気もする。説明も物理現象の未来予測に微分が使えないと書いてあるのもむず痒い。

[ssids]

そもそも連続かつ微分不可能なグラフが最初の説明に出てくる時点で読者はハラハラする / "未来の記憶から～今どのくらいのスピードで注げばいいのか調整" それ（劣）勾配法っていうんやで

[henno]

誤差逆伝播法(BP)がGPUで高速化できることが深層学習のイノベーションで、これにより微分可能になっていれば、深い階層の非線形な関係性でも「結果（画像）」から「原因（レンダラー）」を推論できる、ということ。

[inatax]

ある事象を微分可能な演算だけを使って表現できれば差分伝播法による学習が可能になるっていうのが肝だと思うんだけど、微分の説明のために時間の話を持ち出したせいで話が混線している印象

[yarumato]

“微分と積分という日本語が話をややこしくしてる。微分はdifferential（ある時点と時点の差分）であり、積分はintegral（全体で？％）だ。理想と現実の差分を小さくする微分可能性を逆伝搬させるのがディープラーニング”

[enhanky]

エンジニアリング分野では90年代から勾配降下法だのGAだのBESOだの提案されてきていて、この文章ではそれを再発見しているように読める。新規性がよくわからない。／本当に重要なのは非連続なところにある解なのでは。

[marmot1123]

一応数学専攻（専門：解析）なんですけど、微分と積分という用語の使い方ってこれであってるんですかね？意味が理解できなかった……

[kou-qana]

積分のイメージはわかるんだよなぁ、計算は全然できないけど。微分が差分てとこまではわかったつもりになれる、それを数字にするのがわからない…未来から振り返るやり方で色々できるよ、ってイメージはわかる感じ。

[ystt]

「逆問題」では？

[nisisinjuku]

微分積分は大事だよ～おじさん（未来予測的なことを仕事でじっしするとよく出会うやつ）

[tach]

高校で数ⅡBまでしかやらなかった文系だが「教科書の教え方はフェイク。こんなので微分積分の意味が理解出来るはずがない。こんな戦時英才教育の残滓は削除してしまえ」と予備校の数学の先生がキレていた。

[rzi]

なるほどすごい！ AI将棋みたく、なんでそれが良いのか理屈はわからんが やたらと速い船とかよく吸う掃除機とか 人類には発想できないデザインが出てくる可能性あるのか。

[baimeinyan]

世界最初のコンピュータと言われるチャールズバベッジの作った機械は階差機関(difference engine)なのでその発想は最初からあったともいえる

[ys0000]

なんか知らんが、はてなには清水亮とか落合陽一とかの全方向秀才を叩く人が一定数見られるな。天才より劣るからと天才以外をいちいち叩いてたらそもそもQiitaの記事すら読めないじゃん／わりかし纏まってると思うけど

[ene0kcal]

"微分可能プログラミング"を外延的ではなくて、内包的に説明してないから、"微分可能プログラミングのフレームを使って"とジャンプするから、ふわっとした終わり方になっている。つまり"よく"はわからんです。

[rrringress]

思ってた微分ではなかった

[sds-page]

要するになぜなぜ分析って事でしょ

[ciel18m]

積分は過程関係ない結果、微分は過程の切り取りの差分、実際にやらないと結果はわからないが微分によって逆算予測。リアルな結果と理想のゴールを微分していくことで、理想と現実の差を埋めていくということすね？

[tetsuya_m]

ふむふむ、前半の説明は怪しいけどそういう概念があるのはわかった

[tick2tack]

流体シミュレーションとかも現実的なレベルで逆算できるもんなの？/　ブコメが参考に

[yoshihiroueda]

言語も単語をベクトルで表現することで微分可能になり、機械学習が急速に発展した。

[tonocchokun]

例えばこの記事が本質的に持っているべき適切な解説との差分を微分することで、より適切な文章にしてくれるAIがそのうち作られるということかな。いろんな例示が同じことする別の技術とかぶってうまく読めなかった

[bnckmnj]

今までは実例を膨大に並べてイデアの影を掴もうとしてきたけど、あやふやなイデアから実例が作れる時代がくるかも、っていうかなあ文系には…

[xxxxxxxxlarge]

すげー。微分できるプログラムあるのかー。微分は予備校講師、苑田の第一回目授業がとても印象にある。

[theta]

折れ線グラフを微分………?🤔　あと、微分した値のグラフを描けば良いのに。

[pre21]

学部卒に理系も文系もないだろ

[tohshindainokawaisa]

微分というよりは差分ではという気がするが… back-propのことを微分というのは間違いじゃないんだけど微分というよりは誤差関数の勾配を下っていくイメージの方が重要なのでそっちからの説明が欲しいが

[omega314]

偉大な商売人

[tyakoske]

あまりもにもわからなくてググった一つ目の方がしっくりきた。 https://www.google.co.jp/amp/s/nlab.itmedia.co.jp/nl/amp/1908/13/news089.html

[beginnerchang]

まだディープラーニングで消耗してて草。何周遅れとるんや

[steppin_k]

こういう記事とコメントをはてブで楽しみたいんだよな

[tsubo1]

清水亮氏が書いてんじゃん。ハッタリ感満載で読者をケムにまいたテック記事を書くところは往年の切れ味かなあ。その清水亮氏の略歴にUEIが完全に無かったことになってるのが諸行無常感があって味わい深い。

[mangakoji]

おー、差分のこと数値微分って言う言い方もあるのか

[behuckleberry02]

文系「理系は説明が下手だなあ」　まず文理で分けるのをやめよう。そして応用編から話を始めよう。

[toro-chan]

微分というより履歴?トランザクション?少なくとも微分可能と言われると連続性を前提としているように思えて、違う気がする。設定したものを戻したいという要望はよくあるので、もしかすると同じ方向を指してるのかも

[kaputte]

この話題前から気になってた

[eiki_okuma]

レースゲームで理想のライン取りと実際のライン取りからハンドル操作を逆算して次Fの操作量を決めるみたいなAIの作り方あるけどそれっぽい感じだろうか……。

[cowtopus]

後で読む