📍 最短路径(2-4 周)
不需要从 L0 开始——直接上 L4:
- L4-01:LLM 是怎么炼成的(理解模型背后逻辑)
- L4-02:Prompt 进阶技巧
- L4-03:RAG 从 0 到 1(最常见的 LLM 应用模式)
- L4-04:Agent 构建
- L4-09:Tool Use 工程实战
- L4-07:MCP 协议
- 选 LLM 决策树 + 成本对照
🔧 必备 2026 LLM 应用栈
| 层 | 主流选择 |
|---|---|
| LLM API | Claude / GPT / Gemini / DeepSeek(多家备份) |
| 统一 SDK / Router | OpenRouter / LiteLLM |
| 编程语言 | Python(90% 场景)/ TypeScript(前端 + Node) |
| Agent / Workflow 框架 | LangGraph / LlamaIndex / 自己写(推荐!) |
| 向量库 | pgvector(小项目)/ Pinecone / Qdrant / Milvus |
| RAG 框架 | LlamaIndex / 自己写 / Haystack |
| Embedding 模型 | OpenAI text-embedding-3 / BGE-M3 / Cohere |
| 评估 / 监控 | Langfuse / Helicone / LangSmith / 自建 |
| 结构化输出 | Pydantic / Zod + JSON Schema |
| MCP 服务器 | Anthropic MCP Python/TS SDK |
⚠️ 反复念叨:**框架可有可无,先用 raw API 写一遍**。 LangChain / LangGraph 在原型阶段提速 50%,但生产代码 70% 的人最后都自己重写了——理解原理后再决定要不要用。
🎯 推荐学习项目(学完就有竞争力)
- 个人知识库 RAG:把你的 Notion / Obsidian 接 RAG,问"我去年关于 X 的笔记说了啥"
- 命令行 AI Agent:能自己读文档、运行 shell、写代码、提 PR
- MCP Server:写一个连你公司内部 API 的 MCP Server,让 Claude / Cursor 直接调
- Multi-agent 协作:研究 Agent + 写作 Agent + 校对 Agent 配合产出
- LLM 评估系统:给你的 LLM 应用建 eval set + 自动 regression test
❓ 常见问题
我是 Web 开发,想做 AI 产品该学啥?
L4 + L0-11 词汇表 + RAG vs 微调。 关键是能正确选择什么场景用什么技术——99% 的 AI 产品不需要训练模型,只需要会**用好** API + 工程化。
我要做后端,需要学训练 / 微调吗?
**不一定**。如果你的工作是"把 LLM 接进系统"——不用。如果你的工作是"做一个垂类小模型 / 用 LoRA 调风格"——需要 L1-L4 基础 + L4-05 LoRA。
需要会 PyTorch 吗?
取决于你做啥:
- **LLM 应用开发**:完全不需要
- **微调 / LoRA**:用 Transformers / Unsloth 库即可,不必深入 PyTorch
- **自己改模型架构 / 训练**:必须深入 PyTorch
本地 LLM 怎么跑?
- **最简单**:Ollama,命令行一行装一个模型
- **有 GUI**:LM Studio / Jan
- **高性能推理**:vLLM / SGLang(适合服务化)
- **Mac M 系列**:MLX 框架,原生 Apple Silicon 加速
怎么处理 LLM 的"不稳定"?
- **温度 0** 让输出更确定
- **结构化输出**(JSON Schema)减少格式错误
- **重试 + 校验**:解析失败就重试
- **Eval set**:固定 50-200 个测试样本,每次部署前跑
- **Fallback 路径**:LLM 失败时降级到规则 / 人工
怎么测一个 LLM 应用?
看 L4-08:LLM 评估。基本套路:
- 建 ground truth 测试集(50-500 条)
- 定 metric(accuracy / hallucination rate / 用户评分)
- 每次改 prompt / 模型 → 跑 eval → 对比
- 线上加 trace / log(Langfuse / Helicone)
LLM 应用上线后怎么省钱?
看 LLM 成本对照表 和 L4-15:Prompt Caching。主要套路:模型分层路由、Prompt Caching、Batch API、output 缩短。
开源 vs 闭源模型选哪个?
看 选 LLM 决策树。简单原则:**先用闭源 API 跑通业务,验证产品价值后再考虑自托管开源**。