把<span class="bg-gradient-to-r from-brand-500 to-accent-500 bg-clip-text text-transparent">抽象概念 做成你能玩的玩具

Embedding 空间漫游

50 个词在 2D 空间的位置，玩词向量算术 (king − man + woman = ?)。

🐣 🕒 7 分钟 📚 文章

🧠 深度学习

CNN 卷积扫描

拖动卷积核扫过图像，看不同 kernel 抽出不同特征：边缘、模糊、锐化。

🥚 🕒 8 分钟 📚 文章

LLM 采样可视化

调 temperature / top-k / top-p，看候选词概率分布变化，亲手抽下一个词。

🐣 🕒 6 分钟 📚 文章

🎨 多模态

Diffusion 去噪

从纯噪声开始，50 步生成图像。看 Stable Diffusion / Sora 的核心思路。

🐥 🕒 10 分钟

RAG 全流程

输入问题，看分块 → 向量化 → 检索 → 重排 → 生成 5 步动画。

🐣 🕒 12 分钟 📚 文章

KV Cache

同一个生成过程，有 KV Cache 比没 cache 快多少？左右对比直观看 O(n²) 变 O(n)。

🐥 🕒 8 分钟 📚 文章

流水线并行

4 张 GPU 训大模型，怎么调度才高效？对比 Naive / GPipe / 1F1B 三种调度的 bubble 差异。

🐥 🕒 10 分钟 📚 文章

MoE 混合专家

8 个专家分工合作——每个 token 选 2 个最合适的过。点击 token 看路由模式。

投机解码

小模型猜 + 大模型验证 = LLM 推理加速 2-4 倍。看每轮接受率怎么影响总时间。

🐥 🕒 8 分钟 📚 文章

Beam Search

贪心 / Beam k=2 / Beam k=4 / 采样四种解码策略对比。看 LLM 怎么选最优整句。

知识蒸馏

大模型怎么"教"小模型？调温度参数看"软标签 vs 硬标签"对学生模型的影响。

词表地图

GPT-4 词表里都有什么？300 token 按类别+频率聚类——英文、中文、代码、玄学 token 一图看尽。