vLLM 显存计算器
查询
参数量 (Billion)
B
权重精度
Context Length
Max Num Seqs (启动预留)
Running Batch (并发数)
单卡总显存 (GB)
Tensor Parallel (多卡部署)
KV Cache Dtype (--kv-cache-dtype)
计算显存
权重
0 GB
预留
0 GB
KV Cache
0 GB
总占用
0
/
0
GB