Transformer在论文Attention is All You Need提出，本专栏按照视频，图文，代码三个维度来介绍，并详细介绍VIT与Swin 2个模型

Transformer是Google在论文Attention is All You Need提出的概念，本专栏按照视频动画，图文详解，代码分析来彻底搞懂其模型

NLP领域中近年来，研究最火热的模型当属transformer模型了，很多小伙伴初次看到transformer模型的架构图与论文后，仍然一头雾水

1、什么是自注意力机制？

2、为何需要位置编码

3、模型中的多头与mask 多头注意力机制又有啥区别

4、编码器的输入为何还有一个shifted input

5、Vision transformer与swin transformer诸多细节

本专栏按照视频，图文，代码分析等多角度来详解解读transformer模型的各个细节，让你彻底搞懂transformer模型

视频截图

Transformer 在NLP领域大火，其已经在CV领域大放异彩

VIsion Transformer 与Swin Transformer延续Transformer 模型的注意力机制，应用到计算机视觉领域

视频截图

视频截图