文章

6GB 显存跑 35B MoE？真正撑场的是 64GB 内存

在系统内存充足的条件下，6 GB 显存可以支持 35B 级 MoE 模型达到实际可用状态。