HelloAI
🏷️ 标签

#BERT

共找到 3 条相关内容： 2 篇学习路径 1 篇论文

📚 学习路径

L3
完整 Transformer 架构：把所有积木组合起来
注意力是核心，但 Transformer 还有位置编码、FFN、残差连接、LayerNorm。这一篇把它们组合成一个完整可跑的模型。
 L3
BERT vs GPT：两大 LLM 流派的本质区别
都是 Transformer，为啥一个做"理解"一个做"生成"？两者的训练目标差一个根本性的设计选择。

📑 论文精读

2018
BERT: Pre-training of Deep Bidirectional Transformers
2018 年的 NLP 核爆。提出 Masked Language Modeling + 双向 Transformer，让"预训练 + 微调"成为 NLP 主流范式。
🏆
← 回到所有标签