学習が何で律速してるか、把握してますか？ - arutema47's blog

(最新SSD IOはPCIe x4でした。ご指摘ありがとうございます。） はじめに どの処理で律速しているか調べる 各処理の速度改善方法 データ読み込み速度の改善 データ前処理速度の改善 GPU処理速度の改善 コンピューティングについての他記事 はじめに Kaggle Advent Calendar 2022 8日目です。 突然ですが、あなたはDNN学習時にどの処理で学習速度が律速しているか把握してますか？ DNN学習には図に示すように大きく3つの要素があります： （SSDからの）データ読み込み （CPUによる）データ前処理 （GPUによる）DNN計算 学習時のデータの流れとしては SSDからデータが読み込まれ、CPUに送られる(SATA or PCIe) CPUにてaugmentationや正規化などの前処理が行われ、GPUにデータが送られる(PCIe x16) GPUにてDNNの計算・

[bohemian916]

私の周りのコンピューターサイエンスの博士持ち達は、割と律速って言葉使うな。ボトルネックの日本語訳

[bamch0h]

「律速する」って「ボトルネックによって速度が低下する」って意味でいいですか？

[mysql8]

律速

[yukarinoki]

nvidia-smiのGPU使用率の値では、GPU律速であるか否かはわかりません。GPU使用率が一貫して100%であるならばGPU律速だということは言えますが、GPU使用率が100%未満だからGPU律速でないとは言えません。

[mas-higa]

開きが（で、閉じが)の箇所が多い。

[misshiki]

“律速”＝ボトルネックとなって速度が低下する、ということらしい。データ読み込み速度の改善、データ前処理速度の改善、GPU処理速度の改善について書かれている。

[Xray]

何でこういう記事ってtorchに入ってるプロファイラ使わないの？

[murasuke]

データベースとほとんど同じ(GPUはないけど)感じだなと。巨大データを扱う場合。

[awawawann]

速度が律される話なので「何で律速されるか」「何が律速になっているか」なんでしょうか。意図的にどこかを絞って「工程Aで律速する」はある気がする。 ところで人間の学習のことかと思った。読解とかかな……。

[shunkoba]

深層学習高速化

[hexcap]

「（システムが）～によって律速される」と「（システムを）～が律速する」。両方よくつかうな

[sechs]

律速は効率化する仕事の部署でよく使った。律速部分が効率化すると他の場所で律速して全員から注目されだす。自分の担当が律速箇所にならないか戦々恐々とする日々。

[borerere]

ボトルネックとかいう気持ち悪い用語じゃなくて律速と言っていていい気分

[eggplantte]

計測結果が書かれてると期待したら書かれてなかった。まあハード構成によるから自分の環境で計測しないと参考程度か。

[chess-news]

人間の話じゃないのか。 / 化学用語っぽい？

[dominion525]

律速はされるものだなあ。意図的にコントロールする場合でもなければ。

[qpci32siekqd]

前から思ってるがどこがボトルネックになっているかのトレース情報って足りてないと思うんだよな。ピンポイントでCPU-DRAM間/CPU-GPU間の通信帯域いくら出てるとか出してくれりゃ楽なのに。あと帯域足りないわな

[udzura]

どこでも計測

[kei_1010]

律速なんて言葉があるのか