HelloAI
💻

给工程师的 AI 学习地图

你已经会编程——目标是最快把 AI 用上你的产品, 然后视情况向下深入。

📍 最短路径(2-4 周)

不需要从 L0 开始——直接上 L4:

  1. L4-01:LLM 是怎么炼成的(理解模型背后逻辑)
  2. L4-02:Prompt 进阶技巧
  3. L4-03:RAG 从 0 到 1(最常见的 LLM 应用模式)
  4. L4-04:Agent 构建
  5. L4-09:Tool Use 工程实战
  6. L4-07:MCP 协议
  7. 选 LLM 决策树 + 成本对照

🔧 必备 2026 LLM 应用栈

主流选择
LLM APIClaude / GPT / Gemini / DeepSeek(多家备份)
统一 SDK / RouterOpenRouter / LiteLLM
编程语言Python(90% 场景)/ TypeScript(前端 + Node)
Agent / Workflow 框架LangGraph / LlamaIndex / 自己写(推荐!)
向量库pgvector(小项目)/ Pinecone / Qdrant / Milvus
RAG 框架LlamaIndex / 自己写 / Haystack
Embedding 模型OpenAI text-embedding-3 / BGE-M3 / Cohere
评估 / 监控Langfuse / Helicone / LangSmith / 自建
结构化输出Pydantic / Zod + JSON Schema
MCP 服务器Anthropic MCP Python/TS SDK

⚠️ 反复念叨:**框架可有可无,先用 raw API 写一遍**。 LangChain / LangGraph 在原型阶段提速 50%,但生产代码 70% 的人最后都自己重写了——理解原理后再决定要不要用。

🎯 推荐学习项目(学完就有竞争力)

  1. 个人知识库 RAG:把你的 Notion / Obsidian 接 RAG,问"我去年关于 X 的笔记说了啥"
  2. 命令行 AI Agent:能自己读文档、运行 shell、写代码、提 PR
  3. MCP Server:写一个连你公司内部 API 的 MCP Server,让 Claude / Cursor 直接调
  4. Multi-agent 协作:研究 Agent + 写作 Agent + 校对 Agent 配合产出
  5. LLM 评估系统:给你的 LLM 应用建 eval set + 自动 regression test

❓ 常见问题

我是 Web 开发,想做 AI 产品该学啥?

L4 + L0-11 词汇表 + RAG vs 微调。 关键是能正确选择什么场景用什么技术——99% 的 AI 产品不需要训练模型,只需要会**用好** API + 工程化。

我要做后端,需要学训练 / 微调吗?

**不一定**。如果你的工作是"把 LLM 接进系统"——不用。如果你的工作是"做一个垂类小模型 / 用 LoRA 调风格"——需要 L1-L4 基础 + L4-05 LoRA。

需要会 PyTorch 吗?

取决于你做啥:

  • **LLM 应用开发**:完全不需要
  • **微调 / LoRA**:用 Transformers / Unsloth 库即可,不必深入 PyTorch
  • **自己改模型架构 / 训练**:必须深入 PyTorch

本地 LLM 怎么跑?

  • **最简单**:Ollama,命令行一行装一个模型
  • **有 GUI**:LM Studio / Jan
  • **高性能推理**:vLLM / SGLang(适合服务化)
  • **Mac M 系列**:MLX 框架,原生 Apple Silicon 加速

怎么处理 LLM 的"不稳定"?

  • **温度 0** 让输出更确定
  • **结构化输出**(JSON Schema)减少格式错误
  • **重试 + 校验**:解析失败就重试
  • **Eval set**:固定 50-200 个测试样本,每次部署前跑
  • **Fallback 路径**:LLM 失败时降级到规则 / 人工

怎么测一个 LLM 应用?

L4-08:LLM 评估。基本套路:

  1. 建 ground truth 测试集(50-500 条)
  2. 定 metric(accuracy / hallucination rate / 用户评分)
  3. 每次改 prompt / 模型 → 跑 eval → 对比
  4. 线上加 trace / log(Langfuse / Helicone)

LLM 应用上线后怎么省钱?

LLM 成本对照表L4-15:Prompt Caching。主要套路:模型分层路由、Prompt Caching、Batch API、output 缩短。

开源 vs 闭源模型选哪个?

选 LLM 决策树。简单原则:**先用闭源 API 跑通业务,验证产品价值后再考虑自托管开源**。

🚀 下一步