全部文章

评测

从实际设备出发,记录模型部署、性能表现、测试条件与复现证据。

这些评测怎么读

先看测试环境与适用条件,再看结果、失败记录和复现材料。结论会标明条件与限制,便于你判断是否适用于自己的设备。

实测记录

  1. 6G显存笔记本跑125B:Strata每秒28–34个token,llama.cpp约12个,但Strata差点跑不起来

    RTX 3060 笔记本 6GB 显存 + 64GB 内存,跑 125B 的 Qwen3.8 Flash Next(Q2_0)。Strata 聊天每秒 28–34 个 token,是 llama.cpp 的两倍多,4K 文档首字快一倍;但默认配置差 383MiB 显存起不来,关掉草稿层后只能开 8K 上下文。llama.cpp 慢,但 32K 照样跑。

    阅读正文
  2. 编程智能体开口前要先读多少字?pi 1.4k、Codex 6.4k、Claude Code 15.8k tokens

    从 llama-server 日志里读出三个智能体第一次请求的提示词长度和处理耗时。在 6GB 笔记本上,光读提示词,Claude Code 就比 pi 慢 8.6 倍。

    阅读正文
  3. 同一个本地模型,pi 12/12、Claude Code 7/12:6GB 显卡实测三个编程智能体

    LFM2.5-24B 和 Qwen3.6-35B 跑在 6GB 笔记本的 llama.cpp 上,分别接 pi、Codex、Claude Code 做三道题。pi 全过且最快;Codex 全过但工具参数错了 12 次;Claude Code 系统提示词吃掉半个上下文,还出现“说做完了、目录是空的”。

    阅读正文
  4. Qwen-Image 2.1 在 6GB 显卡上写中文:同一句话,换个写法,文字正确率从 1/6 到 6/6

    INT8 权重加 CPU 卸载,RTX 3060 Laptop 6GB 上 17 次生成全部成功,1024×1024 一张约 3 分钟。目标文字完全相同时,只给文案的写法严格通过 1/6,写清楚行次和边界的写法 6/6。

    阅读正文
  5. 6G 显存笔记本跑 24B:改 -ncmoe,三道真题全对

    在 RTX 3060 Laptop(6GB)+ 64GB 内存上,Liquid AI LFM2.5-24B-A2B(Q4_0)可以本地跑通。默认 -ncmoe 40 约 1.3GB 显存;改成 30 后端到端更快,三道真题仍全对——包括 35B 做错的那道算账题。代价是思考链关不掉。

    阅读正文
  6. APEX+MTP 实测:6GB 笔记本生成提速中位 39%,代价是什么?

    同一份权重,打开 MTP 后,12 道同题生成速度比值的中位数提高约 39%,显存峰值中位数增加约 688MiB。设备是 RTX 3060 Laptop 6GB、64GB 内存;答案变化和长文检索退步也保留在结果里。

    阅读正文
  7. Spark-X2.5-4B 实测:6GB 笔记本上,谁能更快把事做对?

    同一台 6GB 显存的笔记本上,Spark-X2.5-4B 完整装进显存,Qwen3.6-35B-A3B 靠系统内存运行。72 个正式 run 之后,快和准落在了不同地方:主任务 Spark 快几十倍,24 道题却是 Qwen 通过得更多。

    阅读正文
  8. 6GB 显卡生成诗词海报:单张约 4 分钟,16 张里 8 张文字未过

    在 6 GB 显存的笔记本 GPU 上,Qwen-Image 2.1 能把诗句、场景和人物画进同一张图;限制它的是文字准确率,16 张里只有 8 张文字完全正确。

    阅读正文
  9. 6GB 显存也能跑世界模型,而且能出片

    在 6 GB 显存的笔记本 GPU 上,1.3B 的世界模型能跑出成片。代价是时间:不到 1 秒的画面要生成十多分钟,镜头也还不太听话。

    阅读正文
  10. 6GB 显存跑 35B MoE?真正撑场的是 64GB 内存

    在系统内存充足的条件下,6 GB 显存可以支持 35B 级 MoE 模型达到实际可用状态。

    阅读正文