Transformer原理与代码精讲

ad***

Transformer发轫于NLP（自然语言处理），并跨界应用到CV（计算机视觉）领域。目前已成为深度学习的新范式，影响力和应用前景巨大。

本课程对Transformer的原理和PyTorch及TensorFlow 2代码进行精讲，来帮助大家掌握其详细原理和具体实现。

原理精讲部分包括：注意力机制和自注意力机制、Transformer的架构概述、Encoder的多头注意力（Multi-Head Attention）、Encoder的位置编码（Positional Encoding）、残差链接（Residual Connection）、层规范化（Layer Normalization）、FFN（Feed Forward Network）、Transformer的训练及性能、Transformer的机器翻译工作流程。

代码精讲部分使用Jupyter Notebook对Transformer的PyTorch及TensorFlow 2实现代码进行逐行解读，包括：安装PyTorch/TensorFlow、Transformer的数据集加载与预处理代码解读、Transformer的位置编码与多头注意力代码解读、Transformer的Transformer类代码解读、Transformer的优化器与损失函数代码解读、Transformer的训练代码解读、Transformer的推理与权重保存代码解读。




1 课程介绍.mp4
2 注意力机制和自注意力机制.mp4
3 Transformer的架构概述.mp4
4 Transformer Encoder的多头注意力.mp4
5 Transformer Encoder的位置编码.mp4
6 Transformer 残差链接、LayerNorm、FFN.mp4
7 Transformer Decoder.mp4
8 Transformer的训练及性能.mp4
9 Transformer的机器翻译工作流程.mp4
10 安装pytorch.mp4
11 Transformer的Encoder代码解读.mp4
12 Transformer的Decoder代码解读.mp4
13 Transformer的超参设置代码解读.mp4
14 Transformer的训练示例（人为随机数据）代码解读.mp4
15 Transformer的训练示例(机器翻译)代码解读.mp4
16 安装TensorFlow.mp4
17 Transformer的数据集加载与预处理代码解读.mp4
18 Transformer的位置编码与多头注意力代码解读.mp4
19 Transformer的Transformer类代码解读.mp4
20 Transformer的优化器与损失函数代码解读.mp4
21 Transformer的训练代码解读.mp4
22 Transformer的推理与权重保存代码解读.mp4
课程资料.zip

下载地址：

游客，如果您要查看本帖隐藏内容请回复

小婉***

好多好东西

30882***

ransformer的推理与权重保存代码解读.mp4

sm***

既然你诚信诚意的推荐了，那我就勉为其难的看看吧！三六五网络学院不走平凡路。

woshu***

楼主发贴辛苦了，谢谢楼主分享！我觉得三六五网络学院是注册对了！

sakur***

66666666666666

f***

#在这里快速回复# 谢谢大佬分享的教程

roc***

这东西我收了！谢谢楼主！三六五网络学院真好！

xmz860***

Transformer原理与代码精讲

YAOX***

感谢楼主的无私分享！要想三六五网络学院好 就靠你我他