swiftformer-xs_a13684108589002752134956

SwiftFormer 论文介绍了一种新的高效加性注意力机制，该机制有效地用线性元素乘法取代了自注意力计算中的二次矩阵乘法运算。