你将收获

掌握Transformer原理

掌握Transformer的Tensorflow实现代码

适用人群

希望学习Transformer原理及Tensorflow实现代码的学员们

课程介绍

Transformer发轫于NLP(自然语言处理),并跨界应用到CV(计算机视觉)领域。目前已成为深度学习的新范式,影响力和应用前景巨大。

 

本课程对Transformer的原理和TensorFlow 2代码进行精讲,来帮助大家掌握其详细原理和具体实现。

 

原理精讲部分包括:注意力机制和自注意力机制、Transformer的架构概述、Encoder多头注意力(Multi-Head Attention)、Encoder的位置编码(Positional Encoding)、残差链接(Residual Connection层规范化(Layer Normalization)、FFNFeed Forward Network)、Transformer的训练及性能、Transformer的机器翻译工作流程。

 

 

代码精讲部分使用Jupyter NotebookTransformerTensorFlow 2实现代码进行逐行解读,包括:安装TensorFlowTransformer的数据集加载与预处理代码解读Transformer的位置编码与多头注意力代码解读TransformerTransformer类代码解读Transformer的优化器与损失函数代码解读Transformer的训练代码解读、Transformer的推理与权重保存代码解读

课程内容

相关课程: 

Transformer原理与代码精讲(PyTorch)》https://edu.csdn.net/course/detail/36697

Transformer原理与代码精讲(TensorFlow)》https://edu.csdn.net/course/detail/36699

ViTVision Transformer)原理与代码精讲》https://edu.csdn.net/course/detail/36719

DETR原理与代码精讲》https://edu.csdn.net/course/detail/36768

Swin Transformer实战目标检测:训练自己的数据集》https://edu.csdn.net/course/detail/36585

Swin Transformer实战实例分割:训练自己的数据集》https://edu.csdn.net/course/detail/36586

Swin Transformer原理与代码精讲》 https://download.csdn.net/course/detail/37045

课程目录