🏷️ 标签
#架构
共找到 2 条相关内容： 2 篇论文
📑 论文精读
2024 2023
Transformers are SSMs: Generalized Models and Efficient Algorithms (Mamba 2)
Mamba 团队的反击——证明 Transformer 和 SSM 在数学上等价，并提出更快的 Mamba 2 架构。SSM 路线的关键升级。
Mamba: Linear-Time Sequence Modeling with Selective State Spaces
挑战 Transformer 霸权的"选择性状态空间模型"——线性复杂度处理超长序列，理论上能取代 Transformer。2024 年最热的架构研究之一。