Swin Transformer原理与代码精讲

Transformer在许多NLP(自然语言处理)任务中取得了最先进的成果。 Swin Transformer是在ViT基础上发展而来，是Transformer应用于CV（计算机视觉）领域又一里程碑式的工作。它可以作为通用的骨干网络，用于图片分类的CV任务，以及下游的CV任务，如目标检测、实例分割、语义分割等，并取得了SOTA的成果。Swin Transformer获得了ICCV 2021的最佳论文奖。 本课程对Swin Transformer的原理与PyTorch实现代码进行精讲，来帮助大家掌握其详细原理和具体实现；并且使用Swin Transformer对17个类别花朵数据集进行图片分类的项目实战。 Ÿ 原理精讲部分包括：Transformer的架构概述、Transformer的Encoder 、Transformer的Decoder、Swin Transformer的网络架构、Patch Merging、SW-MSA、Relative Position Bias、MSA与W-MSA计算量分析、实验结果及性能。 Ÿ 项目实战部分包括：安装软件环境和PyTorch、安装Swin-Transformer、数据集自动划分、修改配置文件、训练数据集、测试训练出的网络模型。 Ÿ 代码精讲部分使用PyCharm对Swin Transformer的PyTorch代码进行逐行解读，包括：PatchEmbed、SwinTransformerBlock、PatchMerging、推理过程和训练过程实现代码解读。 相关课程： Transformer原理与代码精讲（PyTorch）https://edu.csdn.net/course/detail/36697 Transformer原理与代码精讲（TensorFlow）https://edu.csdn.net/course/detail/36699 ViT（Vision Transformer）原理与代码精讲 https://edu.csdn.net/course/detail/36719 DETR原理与代码精讲 https://edu.csdn.net/course/detail/36768 Swin Transformer实战目标检测：训练自己的数据集 https://edu.csdn.net/course/detail/36585 Swin Transformer实战实例分割：训练自己的数据集 https://edu.csdn.net/course/detail/36586