HelloAI
🏷️ 标签

#系统优化

共找到 1 条相关内容： 1 篇论文

📑 论文精读

2022
FlashAttention: Fast and Memory-Efficient Exact Attention with IO-Awareness
通过感知 GPU 内存层级，让注意力计算快 2-4 倍 + 显存少 10 倍——而且数学上完全相同。所有现代 LLM 都用它。
🏆
← 回到所有标签