TA的每日心情 | 开心
8 小时前 |
|---|
签到天数: 2853 天 连续签到: 72 天 [LV.Master]伴坛终老
- 注册时间
- 2012-9-3
- 最后登录
- 2025-5-28
管理员
2012年到2024年，感谢各位会员朋友的支持！
      
|
Transformer发轫于NLP（自然语言处理），并跨界应用到CV（计算机视觉）领域。目前已成为深度学习的新范式，影响力和应用前景巨大。
本课程对Transformer的原理和PyTorch及TensorFlow 2代码进行精讲，来帮助大家掌握其详细原理和具体实现。
原理精讲部分包括：注意力机制和自注意力机制、Transformer的架构概述、Encoder的多头注意力（Multi-Head Attention）、Encoder的位置编码（Positional Encoding）、残差链接（Residual Connection）、层规范化（Layer Normalization）、FFN（Feed Forward Network）、Transformer的训练及性能、Transformer的机器翻译工作流程。
代码精讲部分使用Jupyter Notebook对Transformer的PyTorch及TensorFlow 2实现代码进行逐行解读，包括：安装PyTorch/TensorFlow、Transformer的数据集加载与预处理代码解读、Transformer的位置编码与多头注意力代码解读、Transformer的Transformer类代码解读、Transformer的优化器与损失函数代码解读、Transformer的训练代码解读、Transformer的推理与权重保存代码解读。
1 课程介绍.mp4
2 注意力机制和自注意力机制.mp4
3 Transformer的架构概述.mp4
4 Transformer Encoder的多头注意力.mp4
5 Transformer Encoder的位置编码.mp4
6 Transformer 残差链接、LayerNorm、FFN.mp4
7 Transformer Decoder.mp4
8 Transformer的训练及性能.mp4
9 Transformer的机器翻译工作流程.mp4
10 安装pytorch.mp4
11 Transformer的Encoder代码解读.mp4
12 Transformer的Decoder代码解读.mp4
13 Transformer的超参设置代码解读.mp4
14 Transformer的训练示例（人为随机数据）代码解读.mp4
15 Transformer的训练示例(机器翻译)代码解读.mp4
16 安装TensorFlow.mp4
17 Transformer的数据集加载与预处理代码解读.mp4
18 Transformer的位置编码与多头注意力代码解读.mp4
19 Transformer的Transformer类代码解读.mp4
20 Transformer的优化器与损失函数代码解读.mp4
21 Transformer的训练代码解读.mp4
22 Transformer的推理与权重保存代码解读.mp4
课程资料.zip
下载地址：
|
|
