SwiftFormer 论文介绍了一种新的高效加性注意力机制,该机制有效地用线性元素乘法取代了自注意力计算中的二次矩阵乘法运算。
Go to file
YYJ-aaaa 656a40d0b3 first commit 2024-11-22 16:43:40 +08:00
.gitattributes Add .gitattributes 2024-11-22 16:24:23 +08:00
README.md Initial commit 2024-11-22 16:24:23 +08:00
config.json first commit 2024-11-22 16:43:40 +08:00
model.safetensors first commit 2024-11-22 16:43:40 +08:00
preprocessor_config.json first commit 2024-11-22 16:43:40 +08:00
pytorch_model.bin first commit 2024-11-22 16:43:40 +08:00

README.md

swiftformer-xs_a13684108589002752134956

SwiftFormer 论文介绍了一种新的高效加性注意力机制,该机制有效地用线性元素乘法取代了自注意力计算中的二次矩阵乘法运算。