GPUFits

显卡兼容性查询器

双向显卡兼容性查询:选模型查能跑它的显卡(单卡或多卡组合),或选显卡查能跑它的模型,附速度估算。

Llama 3.2 3.21B · Q4_K_M · 4K3.9 GB

显卡判定估算速度参考价
rtx-3060-12gb✅ 舒适~137 tok/s$180 二手
rtx-4070-ti-super✅ 舒适~256 tok/s$550 二手
rx-7900-xtx✅ 舒适~366 tok/s$650 二手
rtx-3090✅ 舒适~357 tok/s$1,000 二手
rtx-4090✅ 舒适~385 tok/s$1,100 二手
mac-mini-m4-pro-48gb✅ 舒适~104 tok/s$1,799 首发价
rtx-5090✅ 舒适~684 tok/s$1,999 首发价
rtx-a6000✅ 舒适~293 tok/s$2,800 二手
mac-studio-m4-max-64gb✅ 舒适~208 tok/s$2,899 首发价
mac-studio-m3-ultra-96gb✅ 舒适~312 tok/s$5,299 首发价
a100-80gb✅ 舒适~778 tok/s$15,000 首发价
h100-80gb✅ 舒适~1278 tok/s$30,000 首发价

本地都跑不动?租云 GPU 吧

云 GPU 优惠

理论估算值,实际速度受框架、驱动与 CPU 影响,误差 ±30%。价格为人工维护的参考价,标注核实日期。