NVIDIA GPUスペック（機械学習用） - Qiita

新たに FP8 に対応。E5M2（指数部5ビット、仮数部2ビット）、E4M3（指数部4ビット、仮数部3ビット）に対応。Ampere 同様、疎行列は密行列の倍の性能で動作します。 A100→H100が2年半で3倍の性能向上なので、10年で100倍のムーアの法則は2022年でも健在ですね。 GH200の対応クラウド Lambda Labs Vultr H200の対応クラウド EC2 p5e Google Azure CoreWeave Lambda Labs Vultr H100の対応クラウド EC2 p5 Google A3 Azure ND H100 v5 Oracle Cloud Infrastructure CoreWeave Lambda Labs Vultr さくらのクラウド ConoHa VPS Google が1台に16GPU、AWS と Azure ND が1台に8GPU。マ

[sh2]

T4が安いんだけど今となっては推論専用か

[ZAORIKU]

“NVIDIA GPUスペック（機械学習用）CUDAGPU機械学習120 NVIDIAのサーバー用（旧NVIDIA Tesla） 単位はTFLOPS（全て行列積）。メモリ帯域の単位はGB/s。 2019年よりTeslaという名称は消えました。NVIDIA Tesla V100 → NVIDIA V100。 Ampere CUDAコア数