如何选择能跑模型的硬件？-灵析社区

看 tflops 这个定量指标，如果要跑大模型，还要看显存大小 具体还可以分成 fp32 tflops、fp16 tflops、bf16 tflops、int8 tflops 对于传统的 resnet50、yolo v8 可以看 fp32 tflops 对于 LLM 大模型，就看 fp16 tflops、bf16 tflops、int8 tflops 如果你要看某个显卡的指标，就去谷歌搜索 a100 tflops techpowerup、RTX4060 tflops techpowerup 这样，去 techpowerup 这个网站看,非常的详细