外观
学习路径：三条路线，从入门到精通
模型部署不是一个「读完一本书」的领域，而是一个由几十个彼此咬合的知识点组成的工程体系——推理引擎（inference engine）、模型格式、量化、服务架构、可观测性、MLOps，缺一环就做不出能上线的系统。本文把整套知识组织成三条路线：求职冲刺（约 2 周）、系统精进（约 8 周）、案头速查（随用随查），并给出每条路线的页面清单与检验标准。
先看这里
三篇导读页是这个手册的骨架，任何路线都建议先读：什么是模型部署、部署 vs MLOps vs 推理 vs 模型服务、推理系统总体架构解剖。
一、为什么需要路线图：知识的依赖关系
模型部署的知识点并非平铺，而是有明显先后依赖。读错顺序最常见的结果是：对着 /concepts/quantization 里的 INT8 量化公式发懵，因为你还没搞清楚 /concepts/inference 里「推理（inference）到底是怎么执行一层神经网络」的。
依赖关系可以画成一张有向图：
text
先概念，后实践；先推理基础，后性能优化
┌──────────────────────────┐
│ 推理基础 (inference) │ ← 一切的起点
└───────────┬──────────────┘
┌───────────────────┼───────────────────┐
▼ ▼ ▼
┌─────────────────┐ ┌─────────────────┐ ┌─────────────────┐
│ 模型格式与硬件 │ │ 量化/压缩 │ │ 服务与架构 │
│ (model-formats) │ │ (quantization) │ │ (serving) │
└─────────────────┘ └─────────────────┘ └─────────────────┘
│ │ │
▼ ▼ ▼
┌─────────────────────────────────────────────────────────┐
│ 性能与可观测性 (performance + monitoring) │
└─────────────────────────────────────────────────────────┘
│ │
▼ ▼
┌─────────────────┐ ┌─────────────────┐
│ 实战案例与踩坑 │ │ LLM 推理 (llm) │
│ (case-studies) │ └─────────────────┘
└─────────────────┘三条铁律：
- 先概念后实践：
/concepts/*是理论地基，/practice/*和/case-studies/*是上层建筑。直接啃案例会遇到大量「为什么这样做」的空白。 - 先推理基础后优化：不知道推理的数学执行路径，就理解不了量化为什么能加速、为什么精度会损失、为什么 GPU 内存是瓶颈。
- 先通用后专项：LLM 推理（continuous batching、KV Cache）建立在通用推理概念之上，建议放在通用部分之后学习。
二、三条路线对比
| 路线 | 适合人群 | 时长 | 目标 | 入口页 |
|---|---|---|---|---|
| 求职冲刺 | 准备面试的应届生/转行者 | 约 2 周 | 覆盖面试高频考点，能答能写 | 什么是模型部署 |
| 系统精进 | 想体系化构建能力的工程师 | 约 8 周 | 建立完整知识树并完成综合实践 | 推理系统总体架构解剖 |
| 案头速查 | 已经在做部署、遇问题要查 | 随用随查 | 问题→答案，15 分钟内定位 | 部署演进简史 |
INFO
三条路线不是互斥的：大多数人可以先走 2 周求职冲刺建立全貌，再用 8 周路线补齐深度，最后把案头速查当作常驻工作手册。
三、路线一：求职冲刺（约 2 周）
以「JD 对标 → 核心概念 → 实践 → 面试题」四段式推进。先看目标岗位的 JD（职位描述），把出现频率最高的关键词（TensorRT、vLLM、量化、K8s、服务化）标记出来，再对着下面的清单逐个击破。
第 1 阶段：JD 对标与总览（第 1-2 天）
- 什么是模型部署 —— 能说出部署四要素与核心挑战
- 部署 vs MLOps vs 推理 vs 模型服务 —— 能画出概念层级
- 推理系统总体架构解剖 —— 能默画七层架构图
检验标准：不看笔记，5 分钟内给面试官讲清楚「部署工程师在解决什么问题」。
第 2 阶段：核心概念（第 3-8 天）
| 主题 | 页面 | 高频考点 |
|---|---|---|
| 推理 | 推理基础 | 推理与训练的反向传播区别 |
| 模型格式 | 模型格式 | ONNX 的作用、PTH→ONNX→TensorRT 链路 |
| 硬件 | 硬件基础 | GPU 显存带宽、CPU/GPU 分工 |
| 量化 | 量化 | INT8/FP16 的原理与精度权衡 |
| 压缩 | 模型压缩 | 蒸馏/剪枝/稀疏化 |
| 服务 | 模型服务 | gRPC vs REST、动态批处理 |
| 部署模式 | 部署模式 | 在线/离线/边缘/Serverless |
| 性能 | 性能优化 | 延迟/吞吐指标、瓶颈定位 |
| 监控 | 监控 | Prometheus 指标、漂移检测 |
| LLM | LLM 推理 | KV Cache、continuous batching |
检验标准：每个主题能举出一个真实工具名（ONNX Runtime、TensorRT、Triton、vLLM、KServe、MLflow、Prometheus）并解释其位置。
第 3 阶段：实践与案例（第 9-11 天）
挑 2-3 个案例精读，重点看「问题→选型→方案→效果」：
- FastAPI 服务化 与 Triton 案例（必读，覆盖最主流两种路线）
- vLLM 案例（LLM 方向岗位必读）
- TensorRT 边缘部署（嵌入式方向必读）
检验标准：能说出一个案例里为什么用这个引擎而不是另一个（对比标准见 框架对比）。
第 4 阶段：面试冲刺（第 12-14 天）
检验标准：面试题清单里 80% 的问题能不看资料讲满 2 分钟。
四、路线二：系统精进（约 8 周）
每周一个主题，周末用检验标准自测。第 8 周的综合实践是验收重点。
| 周次 | 主题 | 页面清单 | 周末检验标准 |
|---|---|---|---|
| 第 1 周 | 导读与推理基础 | 导读、推理基础、硬件基础 | 能解释一次前向传播的内存与计算流程 |
| 第 2 周 | 模型格式与量化 | 模型格式、量化、压缩 | 能徒手完成 PTH→ONNX→INT8 的链路规划 |
| 第 3 周 | 服务与架构 | 模型服务、部署模式、MLOps 流水线 | 能画出在线服务的完整组件图 |
| 第 4 周 | 性能与监控 | 性能优化、监控、可观测性实践 | 能设计一套含延迟/吞吐/漂移的指标体系 |
| 第 5 周 | LLM 推理 | LLM 推理、vLLM 论文 | 能讲清 continuous batching 与 KV Cache 的动机 |
| 第 6 周 | 实战案例 | Triton 案例、FastAPI 案例、vLLM 案例、网关灰度 | 每个案例能复述出关键选型依据 |
| 第 7 周 | 论文深读 | 量化论文、vLLM 论文、论文索引 | 能说出每篇论文解决的核心矛盾 |
| 第 8 周 | 综合实践与求职 | 动手构建、压测、上线、面试题 | 独立完成一个含压测、监控、灰度的小型服务 |
第 8 周别跳过
求职冲刺路线是「知道」，系统精进路线必须到「做到」。第 8 周建议真正把 动手构建 里的项目跑起来，压测数据会出现在你的简历上，也会出现在面试官的追问里。
五、路线三：案头速查（随用随查）
按「问题 → 页面」组织。遇到问题先定位现象属于哪一层，再进对应页面：
| 你遇到的问题 | 直达页面 |
|---|---|
| 模型推理变慢了 | 性能优化、压测方法 |
| 如何给模型瘦身 | 量化、模型压缩 |
| 不知道怎么把模型跑成服务 | 模型服务、动手构建 |
| 选哪个推理引擎 | 框架对比、Triton 案例 |
| 上线后效果变差 | 监控与漂移、上线流程 |
| 遇到莫名其妙的坑 | 常见坑点 |
| 想查术语定义 | 术语表 |
| 想找现成工具清单 | 工具盘点、Awesome 列表 |
| 看不懂底层原理 | 系统原理、部署演进简史 |
| 要准备面试 | 面试题 |
用法：把本页加入书签，遇到问题先查表，再读目标页的「一句话结论」段落。速查路线的核心是快，15 分钟内要么找到答案，要么定位到该问谁。
六、FAQ
要不要先读完全部概念页再动手？
不要。概念页按需读：先读导读三篇建立骨架，然后立刻动手跑一个最小服务，遇到卡点再回头查概念。先动手后读书，概念会被「用」进记忆里；先读完再动手，往往会忘掉前三分之一。
时间不够，砍哪块？
- 只有 1 周：砍掉「系统精进」的第 7 周论文和第 5 周 LLM 细节，只保留求职冲刺前三个阶段。
- 只有 3 天：只读导读三篇 + 面试题，面试题会反向带你扫过高频考点。
- 永远不要砍：
/concepts/inference（推理基础）和/practice/pitfalls（常见坑点）。前者是所有概念的地基，后者是最快的避坑路径。
论文需要精读吗？
按目标来。目标是工程岗，vLLM 论文 精读、其余泛读即可；目标是研究/资深岗，把 论文索引 里的 3-5 篇按「问题→方法→验证」框架读透，能显著拉开与候选人的差距。
三条路线可以并行吗？
可以。推荐组合是：案头速查常驻（任何时候查问题）+ 求职冲刺（入职/转岗前 2 周）+ 系统精进（入职后 1-2 个月补齐深度）。系统精进不必一次走完，按周拆开穿插在日常工作里即可。
延伸阅读
- 什么是模型部署 —— 路线的起点，定义部署与四要素
- 推理系统总体架构解剖 —— 理解每个概念在系统中的位置
- 部署演进简史 —— 理解今天工具的由来，避免「只见树木」
- 动手构建你的第一个推理服务 —— 路线二第 8 周的落地指引
- 模型部署面试题 —— 求职冲刺的终点与检验标准
- 术语表 —— 随时可查的词汇索引