你将收获

掌握ViT原理

掌握ViT的Pytorch实现代码

适用人群

希望学习ViT(Vision Transformer)原理与PyTorch实现代码的学员

课程介绍

Transformer在许多NLP(自然语言处理)任务中取得了最先进的成果。 ViT (Vision Transformer)Transformer应用于CV(计算机视觉)领域里程碑式的工作,后面发展出更多的变体,如Swin Transformer 

ViT (Vision Transformer)模型发表于论文An Image is Worth 16X16 Words: Transformer For Image Recognition At Scale,使用纯Transformer进行图像分类。ViTJFT-300M数据集上预训练后,可超过卷积神经网络ResNet的性能,并且所用的训练计算资源可更少。 

本课程对ViT的原理与PyTorch实现代码进行精讲,来帮助大家掌握其详细原理和具体实现。其中代码实现包含两种代码实现方式,一种是采用timm库,另一种是采用einops/einsum 

原理精讲部分包括:Transformer的架构概述、TransformerEncoder TransformerDecoderViT架构概述、ViT模型详解、ViT性能及分析。  

代码精讲部分使用Jupyter NotebookViTPyTorch代码进行逐行解读,包括:安装PyTorchViTtimm库实现代码解读、 einops/einsum ViTeinops/einsum实现代码解读。

相关课程: 

Transformer原理与代码精讲(PyTorch)》https://edu.csdn.net/course/detail/36697

Transformer原理与代码精讲(TensorFlow)》https://edu.csdn.net/course/detail/36699

ViTVision Transformer)原理与代码精讲》https://edu.csdn.net/course/detail/36719

DETR原理与代码精讲》https://edu.csdn.net/course/detail/36768

Swin Transformer实战目标检测:训练自己的数据集》https://edu.csdn.net/course/detail/36585

Swin Transformer实战实例分割:训练自己的数据集》https://edu.csdn.net/course/detail/36586

Swin Transformer原理与代码精讲》 https://download.csdn.net/course/detail/37045

 

课程目录