导航

Transformer原理与代码精讲(PyTorch) Transformer原理精讲 自注意力机制

Transformer原理与代码精讲(PyTorch)
共18节 3428人在学 课程详情
课程目录
讨论留言
  • Transformer原理精讲

    • 注意力机制
    • 自注意力机制
    • Transformer的架构概述
    • Transformer Encoder的多头注意力 (Multi-Head Attention)
    • Transformer Encoder的位置编码(Positional Encoding)
    • Transformer 残差链接、LayerNorm、FFN
    • Transformer Decoder
    • Transformer 训练及性能
    • Transformer机器翻译工作流程
  • Transformer代码精讲(Pytorch)

    • 安装Pytorch
    • Transformer的Encoder代码解读
    • Transformer的Decoder代码解读
    • Transformer的超参设置代码解读
    • Transformer的训练示例(人为随机数据)代码解读
    • Transformer的训练示例(德语-英语机器翻译)代码解读
    • 结合中文注释代码深入解读1
    • 结合中文注释代码深入解读2
  • 课程介绍

    • 课程介绍
回复
切换为未回复评论
切换为时间正序
请发表友善的回复…
发表回复
发表回复
按下Enter换行,Ctrl+Enter发表内容
编辑
预览
    轻敲空格完成输入
    • 显示为
    • 卡片
    • 标题
    • 链接

    反馈

    播放页问题反馈
    视频学习中有任何产品建议都可由此反
    馈,我们将及时处理!

    课时介绍

    原理精讲部分包括:注意力机制和自注意力机制、Transformer的架构概述、Encoder的多头注意力(Multi-Head Attention)、Encoder的位置编码(Positional Encoding)、残差链接(Residual Connection)、层规范化(Layer Normalization)、FFN(Feed Forward Network)、Transformer的训练及性能、Transformer的机器翻译工作流程。

    课程介绍

    Transformer发轫于NLP(自然语言处理),并跨界应用到CV(计算机视觉)领域。目前已成为深度学习的新范式,影响力和应用前景巨大。

     

     

    本课程对Transformer的原理和PyTorch代码进行精讲,来帮助大家掌握其详细原理和具体实现。

     

     

    原理精讲部分包括:注意力机制和自注意力机制、Transformer的架构概述、Encoder的多头注意力(Multi-Head Attention)、Encoder的位置编码(Positional Encoding)、残差链接、层规范化(Layer Normalization)、FFN(Feed Forward Network)、Transformer的训练及性能、Transformer的机器翻译工作流程。

     

     

     

    代码精讲部分使用Jupyter Notebook对Transformer的PyTorch代码进行逐行解读,包括:安装PyTorch、Transformer的Encoder代码解读、Transformer的Decoder代码解读、Transformer的超参设置代码解读、Transformer的训练示例(人为随机数据)代码解读、Transformer的训练示例(德语-英语机器翻译)代码解读。

    课程内容

    相关课程: 

    《Transformer原理与代码精讲(PyTorch)》https://edu.csdn.net/course/detail/36697

    《Transformer原理与代码精讲(TensorFlow)》https://edu.csdn.net/course/detail/36699

    《ViT(Vision Transformer)原理与代码精讲》https://edu.csdn.net/course/detail/36719

    《DETR原理与代码精讲》https://edu.csdn.net/course/detail/36768

    《Swin Transformer实战目标检测:训练自己的数据集》https://edu.csdn.net/course/detail/36585

    《Swin Transformer实战实例分割:训练自己的数据集》https://edu.csdn.net/course/detail/36586

    《Swin Transformer原理与代码精讲》 https://download.csdn.net/course/detail/37045

    推荐课程

    信息系统项目管理师自考笔记

    李明 · 710人在学

    python从0到1:期货量化交易系统(CTP实战,高频及合成K线数据

    王先生 · 22073人在学

    手把手搭建Java超市管理系统【附源码】(毕设)

    汤小洋 · 4198人在学

    Java毕设springboot外卖点餐系统 毕业设计毕设源码 使用教

    黄菊华 · 786人在学

    基于SSM酒店管理系统(毕设)

    小尼老师 · 837人在学

    java项目实战之购物商城(java毕业设计)

    Long · 5151人在学

    手把手搭建Java求职招聘系统【附源码】(毕设)

    汤小洋 · 1506人在学

    Python Django 深度学习 小程序

    钟翔 · 2317人在学

    城管局门前三包管理系统+微信小程序(vue+springboot)

    赖国荣 · 597人在学

    Vue+Uni-app(uniapp)入门与实战+赠送仿美团点餐小程序

    李杰 · 3979人在学

    正在试验
    后自动删除环境
    课程实验
    本次实验时间已到期 00:00:00

      订阅失败

      Transformer原理与代码精讲(PyTorch)
      Transformer原理与代码精讲(PyTorch) ...

      订阅列表已满,请先移出部分订阅内容。

      当前章节需购买后观看
      开通超级会员免费看!专家精选系列课程,满足你从入门到精通!更有问答月卡免费送,你的问题有问必答!
      提交答案

      购买课程

      扫码完成付费,可继续学习全部课程内容

      加载中...
      课件正在飞速打包中,请耐心等待几秒钟~
      联系我们
      工作时间: 8:30 - 22:00
      客服电话: 400-660-0108
      kefu@csdn.net在线客服
      • 关于我们
      • 招贤纳士
      • 商务合作
      • 寻求报道
      • 京ICP备19004658号
      • 经营性网站备案信息
      • 公安备案号11010502030143
      • 营业执照
      • 北京互联网违法和不良信息举报中心
      • 家长监护
      • 中国互联网举报中心
      • 网络110报警服务
      • Chrome商店下载
      • 账号管理规范
      • 版权与免责声明
      • 版权申诉
      • 出版物许可证
      • ©1999-2024北京创新乐知网络技术有限公司

      视频问题反馈

      提交遇到的问题我们会尽快解决的 ~