CPUとGPUのマルチスレッディングの違いについて - arutema47's blog

"Locality is efficiency, Efficiency is power, Power is performance, Performance is King", Bill Dally マルチスレッディングとは？ CPUとGPUのマルチスレッディングの違いをブログにまとめていたけど例によって誰も興味なさそう— arutema47 (@arutema47) 2021年8月16日 つぶやいたら読みたい方が多そうだったので完成させました。 マルチスレッディングとはメモリ遅延を隠蔽しスループットを上げるハードウェアのテクニックです。 ただCPUとGPUで使われ方がかなり異なるため、その違いについて考えてみる記事です。 （SIMDについて並列プログラミングの観点から触れるべきでしたが、時間無いマルチスレッディングに注目するため初版では省きました。） 本記事について 本記事はCPUとG

[rgfx]

ほへえ「スレッド管理はGPUではコア内にスケジューラをもたせており、ハードウェアがスレッドのスケジュールを管理してくれる」／（またこのコピペを読み返している https://www.hide10.com/archives/6186

[daishi_n]

CPUは同時マルチスレッディング(SMT)の話だよね。SMTはスレッドのスイッチに必要な状態保存の回路を足せばスーパースカラー実行パイプラインの余った回路を活用できる、ってやつだからちょっと違うような

[pascal256]

ハイパースレッディングとかの話。分かりやすい。CPUはレイテンシ重視でGPUはスループット重視だからマルチスレッドの設計にも違いがでる、と。

[momonga_dash]

専門だったから一通り勉強したけど、賢い人が作ったライブラリで隠蔽されるので、うちらのような雑魚が知ってて得する場面があまり無いという悲しみ。

[agricola]

おいらが仕事してる業界（HPC）では、CPUのSMT機能はいの一番にBIOSで無効化されるけどな！実コア数よりスレッドやらプロセス増やしても性能向上しないのでw

[sato0427]

へーグラフィック用途こそ低レイテンシ（いかに早く表示するか）かと思ってたけど、とにかく全部処理するしかないからスループット重視なのか

[fhvbwx]

既出だが、x86に関してはスーパースカラー多段パイプラインの余剰問題対策がスタート。だから初期のHTはそんなに実性能は良くなかった。/別のタスクにスイッチすれば分岐予測できるかといえばそんなことはないのでは？

[maketexlsr]

TLDRが記述的でなんとも /内容も同じ雰囲気だった

[kei_blue_opal]

色々間違えている気がするんだけれど。

[tettekete37564]

tl;drの使い方間違ってない？

[zyxwv]

GPU のコア数とスレッド数の違い。スレッド数はコア1つが同時に流せる処理の数。メモリIO待ちになったスレッドはすぐに切り替えてコアの使用率を最大にする。

[urahsam]

[cpu]

[h4486]

CPU も GPU もレジスタの話をせずに説明するのは無理があるなぁ

[misshiki]

“メモリ遅延を隠すためにCPUではマルチスレッディングが活用されてきた。...対照的にGPUはCPU機能を削減し、スループットを最大化するアーキテクチャ。 ...画像処理、科学計算、深層学習に好適。”

[iekusup]

ほー。

[ultimatebreak]

天才たちの努力の結晶だなこれ…わかりやすい(わかったとは言っていない)

[ma38su]

GPUのifが遅いと言われるのがよくわかった。

[rx7]

すごいわかりやすい。CPUのジョブはレイテンシ重視、GPUはスループット重視。よってマルチスレッディングの設計思想が異なる、と。

[htnmiki]

一人暮らしのひきこもり大勝利ということか

[ema_hiro]

なるほど（なんもわからん）

[memoryalpha]

“最新CMOSプロセスがランチされる際には一番最初にキャッシュ性能（SRAMセル性能）が学会で報告される。今だと3nmプロセス”

[nilab]

CPUとGPUのマルチスレッディングの違いについて - arutema47's blog

[diveintounlimit]

わかりやすーい

[shinobue679fbea]

久々に良い入門記事だった。感謝

[mysql8]

マルチプロセッシングは論理コアじゃなく物理コアを使うってことかな

[eagleyama]

勉強になった

[cantaloupe]

[マルチスレッディング]

[tekitou-manga]

物理コアを2個に分けてどうすんだってことが良く分かってなかったけど納得でけた。後のざっくりした認識は余り間違ってなかったみたい。amazonセール情報ありがたや

[shyunp]

あとでよむ

[ikayome]

勉強になった

[nack1024]

SMTの話混ぜちゃうの？

[ofuton512]

こういう話が聞きたいんだよ！！！本当にありがとうございます！！

[Magicant]

「マルチスレッディング（インテルがハイパースレッディングと呼んでいますが同じものです」はさすがに単純化しすぎぢゃない?