大模型显存计算器
精确计算任意大模型的显存需求:按量化档位与上下文长度分解权重、KV 缓存与系统开销。免费、数据可溯源、无需注册。
权重
2.0 GB
KV 缓存
0.5 GB
系统开销
1.5 GB
总需求
3.9 GB
许多运行时的默认上下文小于模型上限(例如 Ollama 默认仅 2048 token),实际占用以你的配置为准。
能装下它的显卡
- rtx-3060-12gb✅ 舒适
- rtx-4070-ti-super✅ 舒适
- rtx-3090✅ 舒适
- rtx-4090✅ 舒适
- rx-7900-xtx✅ 舒适
- rtx-5090✅ 舒适
- mac-mini-m4-pro-48gb✅ 舒适
- rtx-a6000✅ 舒适
- mac-studio-m4-max-64gb✅ 舒适
- mac-studio-m3-ultra-96gb✅ 舒适
- a100-80gb✅ 舒适
- h100-80gb✅ 舒适
数字为估算值,基于官方公开的模型架构参 数与实测 GGUF 文件大小计算,实际占用随运行时与驱动有所差异。