LOCAL LLM / DEPLOY GUIDE27 SEP 2026
挑模型
名字就是说明书
内存的账算完了（第二篇），现在去挑模型。打开模型下载站，第一眼是几千个名字。别慌，它们都遵循同一套命名语法。
开源模型名字长得像乱码：`Qwen3-VL-235B-A22B-Instruct-4bit`。这一篇教你把它拆开读——读懂之后，挑模型这件事就完成了八成。
FAMILY 01 家族看血统 |
SIZE 02 B 看体量 A 看激活 |
SUFFIX 03 后缀看会不会听话 |
LOCAL LLM / 01
一、先认血统：四大家族
2026 年的开源模型世界，主力是几个"世家":Qwen（阿里）——型号最全、中文最强；GLM（智谱）——推理见长；DeepSeek——以极低成本训练出一线水平出名；Llama（Meta）——最早掀起开源浪潮，英文生态最大、中文一般。此外还有 Kimi、Gemma 等各有专长。
一个基本行情：换代极快，今天最强的，三个月后未必。所以别把家族忠诚当策略，把读名字的能力当策略。
LOCAL LLM / 02
二、六个字段，逐个拆
拿 `Qwen3-VL-235B-A22B-Instruct-4bit` 开刀：
—VL = 能看图（没有这个后缀的模型是"盲人"，只收文字）—235B = 总参数 2350 亿 → 用第二篇的乘法算内存—A22B = 每字只激活 220 亿（专家混合结构）→ 用第二篇的除法算速度。占内存看 235，跑速度看 22——大而省—Instruct = 受过"听指令"训练的版本。没有这个词的"基座版"只会接着往下写，答非所问，不要下—4bit = 量化精度。4~6bit 是甜点；3bit 以下损失明显
再补两个常见字：Thinking/R1 = 会先打草稿再回答的推理版，适合数学和多步分析，代价是慢；Base = 基座版，同上，避开。
这就是转向：排行榜只负责给你候选名单，名字才告诉你这个模型跟你的机器、你的活配不配。 榜单第一名如果 B 太大装不下、没有 Instruct、或者你要看图它没有 VL——排名再高也与你无关。
LOCAL LLM / 03
三、三问定终选
候选名单加名字六字段，最后过三问：
—装得下吗? 总参数 × 量化字节 < 你的内存（留两成余量给系统）—要哪种能力? 处理中文选中文强的家族；要算数和长逻辑链选推理版；要读图表截图选 VL—下哪个具体文件? 官方出品 + Instruct + 4~6bit——这是默认答案，想都不用想
三问过完，下载。剩下的两成选型工作——它在你的具体任务上到底行不行——没有任何榜单能替你回答，要用你自己的题去考（第六篇讲怎么考）。
LOCAL LLM / 04
四、一个真实的教训
一次真实选型里，两个模型在权威排行榜上只差 2 分，在使用者自己的判断类题目上差了 20 分（满分 110）。差距全出在排行榜不考的地方：数字有没有依据、边界有没有说明、有没有越权替提问者做决定。名字帮你排除"用不了的"，自己的题才能选出"用得好的"。