世界最大規模のディープラーニングを「富岳」で実施して世界一になりました - fltech - 富士通研究所の技術ブログ

はじめに こんにちは。富士通株式会社ICTシステム研究所のMLPerf HPC五人衆です。先週、国際学会SC’21 において、理化学研究所/富士通が共同で開発した新しいスーパーコンピュータ（スパコン）「富岳」がスパコンランキングで4期連続の4冠(TOP500, HPCG, HPL-AI, Graph500)を獲得しましたが、同会議で発表された、実際のディープラーニング(DL)学習処理に特化したMLPerfTM HPC ベンチマークにおいても世界一を獲得しました。 本ブログでは、このMLPerf HPCの一つのアプリケーションであるCosmoFlowの学習を「富岳」で大規模に行い世界一となった、その挑戦についてお話させてもらいます。 はじめに 背景 MLPerf HPCって何？（白幡） CosmoFlowって何？（田渕） 「富岳」って何？（田渕） プロセッサ 通信ネットワーク ストレージ 準

[maketexlsr]

ブコメさんへ。スパコンでなければ不可能な計算多いです(必要メモリが巨大)。また、PCで同じ計算すると通信速度が邪魔して結局スパコンの方が効率いいことも。ちなみに主流スパコンはPC大量に並べ通信強化した方式です

[suica_j]

こういう所は凄いなー富士通。私が学生の頃は真面目にスパコン絶滅論を語ってる教授が居た様な時代だったんだけれど、それが今や半導体でトップクラスに伸びてる分野になってたりするんだから分からないもんだなぁ

[SndOp]

コロナの飛沫シミュレーションだけではなかったんだな

[qpci32siekqd]

これだけ成果が出ていても日本の産業界に用途が広がりそうにないのがな・・・。

[findup]

「2位じゃダメなんですか」が物議を醸したけど、実際としてスパコン世界一ってニュースはそれほど世間で話題にならなかったような気も。

[mayumayu_nimolove]

凄さが分からんけど世界一は凄い

[mysql8]

世界最大規模のディープラーニングを「MN-3」で実施して世界一になりました

[misshiki]

“MLPerf HPCの一つのアプリケーションであるCosmoFlowの学習を「富岳」で大規模に行い世界一となった、その挑戦について”

[pwatermark]

コレ、Googleとしても欲しかった知見なんじゃないかね

[toaruR]

メタDLでDLモデルを作れそうな

[pechiyon]

ちょーーーぜつ強力な環境で"学習"させたモデルつまりは脳みそを、そこそこな環境に移植し未知なるものに対して"推論"させるという方法がポピュラーなのでスパコンは意味あります。受験勉強と本試験みたいな感じさね

[hirose30]

大規模言語モデルの生成のために、BigTechもスパコンを使っている、みたいな記事を見たとおもったんだけど >ブコメ

[kei_1010]

凋落する日本から世界一が出る事は今後ますます減るだろうから、日本にとってかなり貴重な技術。にしても富岳で鍛えたAIを普通のPCで動かして活用する、なんて事はできるのかな？

[T-miura]

コスパどうなんだろ？or コスパとか関係なくて、deepleaningで、一定の学習サイズこえると、富岳でしかできなかったりする？富士通、この成果で利益あげれるんやろうか？

[NAPORIN]

nVidiaに勝っとる！（ゲーマーにわかったのはそれだけだった）

[mohno]

比較相手がNVIDIAってパソコン？と思ったら“NVIDIAのGPUを搭載したスパコン”なのか→https://www.itmedia.co.jp/pcuser/articles/2105/28/news068.html （内容はさっぱり分からない）

[agricola]

ノードあたりのメモリ容量がショボい（何しろA100より少ない）割にコア数が多い富岳さんはデータ参照の局所性という点でだいぶ不利なんじゃないのかなと。↓メモリ9TBなんて頑張れば1台に積めるぞ。

[tick2tack]

スパコンって最適化大好きっ子にはたまらなさそう

[igni3]

記事中にあるようにスパコンで長時間計算って他の利用者との調整とかもあるし自由ではないんだよね。スパコンが必要な分野もあるけどDLでやる価値はあるのか。関係ないけどExcelグラフがあるとほんのりする。

[sonots]

HPC5人衆

[kenjou]

スパコンてコストに見合うだけの需要があるのかな。多少時間がかかっても性能が落ちるコンピューターでもどうにか処理できるのなら、あまり存在意義がないけど。

[hasiduki]

すごーい！

[tengo1985]

.devドメインでやってるんだ。イイね。