6GB 显存能跑哪些本地模型?实测清单(持续更新)
同一台 RTX 3060 Laptop 6GB + 64GB 内存,我们实测过的语言、图像和世界模型,每一行都链到完整测试。只收自己跑过的。
测试机
联想拯救者 Y9000P 2022:RTX 3060 Laptop 6GB,i7-12700H,64GB DDR5-5200 双通道,Windows 11 + WSL2 Ubuntu 24.04。下面所有结论都建立在 64GB 内存 上,这一点比显卡更关键。
语言模型
| 模型 | 量化 | 能用吗 | 关键数字 | 文章 |
|---|---|---|---|---|
| Qwen3.6-35B-A3B | UD-Q4_K_XL | 能 | 生成约 21–23 t/s,显存 2.86 GB(专家层全在内存) | 35B MoE |
| LFM2.5-24B-A2B | Q4_0 | 能 | -ncmoe 30 生成 29.5 t/s;三道真题全对 |
24B |
| Qwen3.6 APEX + MTP | — | 能 | 打开 MTP 后生成速度中位数 +39%,显存 +688 MiB | APEX+MTP |
| Spark-X2.5-4B | — | 能 | 完整装进显存,主任务比 35B 快几十倍,但题目通过得少 | Spark vs 35B |
接编程智能体:LFM2.5-24B + pi 12/12 全过,Claude Code 只过 7/12,见智能体对比。
图像 / 视频
| 模型 | 能用吗 | 关键数字 | 文章 |
|---|---|---|---|
| Qwen-Image 2.1(INT8 + CPU 卸载) | 能,慢 | 1024² 一张约 3 分钟,显存峰值约 4.8 GiB | Qwen-Image 6GB、诗词海报 |
| LingBot-World 1.3B | 能出片,很慢 | 13 帧(0.8 秒)约 12 分钟,显存峰值 5986 MiB | 世界模型、Windows 部署 |
三条经验
- MoE 模型看内存,不看显存。 专家层放内存,显存只需两三 GB,见 -ncmoe 调参。
- 稠密大模型基本没戏。 6GB 装不下的稠密权重只能走 PCIe,速度会掉到不可用。这是从 35B 实验里专家层放 GPU 时只有 5 t/s 推出来的,没有单独测稠密模型。
- 图像和视频模型能跑,但按分钟算。 适合批处理,不适合交互。
相关
常见问题
6GB 显存能跑 35B 模型吗? MoE 的 Qwen3.6-35B-A3B 可以,专家层放进 64GB 内存,生成约 21–23 t/s,显存 2.86 GB。