GPUFits

大模型显存计算器

精确计算任意大模型的显存需求:按量化档位与上下文长度分解权重、KV 缓存与系统开销。免费、数据可溯源、无需注册。

权重
2.0 GB
KV 缓存
0.5 GB
系统开销
1.5 GB
总需求
3.9 GB

许多运行时的默认上下文小于模型上限(例如 Ollama 默认仅 2048 token),实际占用以你的配置为准。