6GB 显存能跑哪些本地模型?实测清单(持续更新)

同一台 RTX 3060 Laptop 6GB + 64GB 内存,我们实测过的语言、图像和世界模型,每一行都链到完整测试。只收自己跑过的。

测试机

联想拯救者 Y9000P 2022:RTX 3060 Laptop 6GB,i7-12700H,64GB DDR5-5200 双通道,Windows 11 + WSL2 Ubuntu 24.04。下面所有结论都建立在 64GB 内存 上,这一点比显卡更关键。

语言模型

模型 量化 能用吗 关键数字 文章
Qwen3.6-35B-A3B UD-Q4_K_XL 能 生成约 21–23 t/s,显存 2.86 GB(专家层全在内存) 35B MoE
LFM2.5-24B-A2B Q4_0 能 -ncmoe 30 生成 29.5 t/s;三道真题全对 24B
Qwen3.6 APEX + MTP — 能 打开 MTP 后生成速度中位数 +39%,显存 +688 MiB APEX+MTP
Spark-X2.5-4B — 能 完整装进显存,主任务比 35B 快几十倍,但题目通过得少 Spark vs 35B

接编程智能体:LFM2.5-24B + pi 12/12 全过,Claude Code 只过 7/12,见智能体对比。

图像 / 视频

模型 能用吗 关键数字 文章
Qwen-Image 2.1(INT8 + CPU 卸载) 能,慢 1024² 一张约 3 分钟,显存峰值约 4.8 GiB Qwen-Image 6GB、诗词海报
LingBot-World 1.3B 能出片,很慢 13 帧(0.8 秒)约 12 分钟,显存峰值 5986 MiB 世界模型、Windows 部署

三条经验

  1. MoE 模型看内存,不看显存。 专家层放内存,显存只需两三 GB,见 -ncmoe 调参。
  2. 稠密大模型基本没戏。 6GB 装不下的稠密权重只能走 PCIe,速度会掉到不可用。这是从 35B 实验里专家层放 GPU 时只有 5 t/s 推出来的,没有单独测稠密模型。
  3. 图像和视频模型能跑,但按分钟算。 适合批处理,不适合交互。

相关

常见问题

6GB 显存能跑 35B 模型吗? MoE 的 Qwen3.6-35B-A3B 可以,专家层放进 64GB 内存,生成约 21–23 t/s,显存 2.86 GB。