如何选择能跑模型的硬件？-灵析社区

无敌英俊大师兄

我只是跑模型：不是大规模生产训练，（ 比如 `yolo v8` 做做图片验证或者 `text2sql`）关于使用 `python` 跑模型的电脑配置：现在我使用的是 `Mac Mini M2` 芯片：但是速度很慢 所以想买个带英伟达显卡的电脑：笔记本最好 单硬件这东西不懂 我至少要买到哪种型号以上才能在现有的 `M2` 芯片上有明显提升

阅读量：40

点赞量：0

问AI
看 tflops 这个定量指标，如果要跑大模型，还要看显存大小 具体还可以分成 fp32 tflops、fp16 tflops、bf16 tflops、int8 tflops 对于传统的 resnet50、yolo v8 可以看 fp32 tflops 对于 LLM 大模型，就看 fp16 tflops、bf16 tflops、int8 tflops 如果你要看某个显卡的指标，就去谷歌搜索 a100 tflops techpowerup、RTX4060 tflops techpowerup 这样，去 techpowerup 这个网站看,非常的详细 "图片.png" (https://wmprod.oss-cn-shanghai.aliyuncs.com/images/20241115/2825b28afbbdf5e2d3374ce62ec631f5.png)