ViT(Vision Transformer)原理与代码精讲
课时介绍
课程介绍
Transformer在许多NLP(自然语言处理)任务中取得了最先进的成果。 ViT (Vision Transformer)是Transformer应用于CV(计算机视觉)领域里程碑式的工作,后面发展出更多的变体,如Swin Transformer。
ViT (Vision Transformer)模型发表于论文An Image is Worth 16X16 Words: Transformer For Image Recognition At Scale,使用纯Transformer进行图像分类。ViT在JFT-300M数据集上预训练后,可超过卷积神经网络ResNet的性能,并且所用的训练计算资源可更少。
本课程对ViT的原理与PyTorch实现代码进行精讲,来帮助大家掌握其详细原理和具体实现。其中代码实现包含两种代码实现方式,一种是采用timm库,另一种是采用einops/einsum。
原理精讲部分包括:Transformer的架构概述、Transformer的Encoder 、Transformer的Decoder、ViT架构概述、ViT模型详解、ViT性能及分析。
代码精讲部分使用Jupyter Notebook对ViT的PyTorch代码进行逐行解读,包括:安装PyTorch、ViT的timm库实现代码解读、 einops/einsum 、ViT的einops/einsum实现代码解读。
相关课程:
《Transformer原理与代码精讲(PyTorch)》https://edu.csdn.net/course/detail/36697
《Transformer原理与代码精讲(TensorFlow)》https://edu.csdn.net/course/detail/36699
《ViT(Vision Transformer)原理与代码精讲》https://edu.csdn.net/course/detail/36719
《DETR原理与代码精讲》https://edu.csdn.net/course/detail/36768
《Swin Transformer实战目标检测:训练自己的数据集》https://edu.csdn.net/course/detail/36585
《Swin Transformer实战实例分割:训练自己的数据集》https://edu.csdn.net/course/detail/36586
《Swin Transformer原理与代码精讲》 https://download.csdn.net/course/detail/37045
信息系统项目管理师自考笔记
李明 · 546人在学
python从0到1:期货量化交易系统(CTP实战,高频及合成K线数据
王先生 · 20856人在学
手把手搭建Java超市管理系统【附源码】(毕设)
汤小洋 · 4098人在学
Java毕设springboot外卖点餐系统 毕业设计毕设源码 使用教
黄菊华 · 737人在学
基于SSM酒店管理系统(毕设)
小尼老师 · 794人在学
java项目实战之购物商城(java毕业设计)
Long · 5117人在学
手把手搭建Java求职招聘系统【附源码】(毕设)
汤小洋 · 1471人在学
Python Django 深度学习 小程序
钟翔 · 2253人在学
城管局门前三包管理系统+微信小程序(vue+springboot)
赖国荣 · 518人在学
Vue+Uni-app(uniapp)入门与实战+赠送仿美团点餐小程序
李杰 · 3887人在学