Transformer原理与代码精讲(PyTorch)
课时介绍
课程介绍
Transformer发轫于NLP(自然语言处理),并跨界应用到CV(计算机视觉)领域。目前已成为深度学习的新范式,影响力和应用前景巨大。
本课程对Transformer的原理和PyTorch代码进行精讲,来帮助大家掌握其详细原理和具体实现。
原理精讲部分包括:注意力机制和自注意力机制、Transformer的架构概述、Encoder的多头注意力(Multi-Head Attention)、Encoder的位置编码(Positional Encoding)、残差链接、层规范化(Layer Normalization)、FFN(Feed Forward Network)、Transformer的训练及性能、Transformer的机器翻译工作流程。
代码精讲部分使用Jupyter Notebook对Transformer的PyTorch代码进行逐行解读,包括:安装PyTorch、Transformer的Encoder代码解读、Transformer的Decoder代码解读、Transformer的超参设置代码解读、Transformer的训练示例(人为随机数据)代码解读、Transformer的训练示例(德语-英语机器翻译)代码解读。
相关课程:
《Transformer原理与代码精讲(PyTorch)》https://edu.csdn.net/course/detail/36697
《Transformer原理与代码精讲(TensorFlow)》https://edu.csdn.net/course/detail/36699
《ViT(Vision Transformer)原理与代码精讲》https://edu.csdn.net/course/detail/36719
《DETR原理与代码精讲》https://edu.csdn.net/course/detail/36768
《Swin Transformer实战目标检测:训练自己的数据集》https://edu.csdn.net/course/detail/36585
《Swin Transformer实战实例分割:训练自己的数据集》https://edu.csdn.net/course/detail/36586
《Swin Transformer原理与代码精讲》 https://download.csdn.net/course/detail/37045
信息系统项目管理师自考笔记
李明 · 486人在学
python从0到1:期货量化交易系统(CTP实战,高频及合成K线数据
王先生 · 19971人在学
手把手搭建Java超市管理系统【附源码】(毕设)
汤小洋 · 3999人在学
Java毕设springboot外卖点餐系统 毕业设计毕设源码 使用教
黄菊华 · 720人在学
基于SSM酒店管理系统(毕设)
小尼老师 · 772人在学
java项目实战之购物商城(java毕业设计)
Long · 5049人在学
手把手搭建Java求职招聘系统【附源码】(毕设)
汤小洋 · 1446人在学
Python Django 深度学习 小程序
钟翔 · 2214人在学
城管局门前三包管理系统+微信小程序(vue+springboot)
赖国荣 · 475人在学
Vue+Uni-app(uniapp)入门与实战+赠送仿美团点餐小程序
李杰 · 3814人在学