文章目录

• 论文精读-Transformer（Attention is All You Need)
• • 1.Transformer 整体结构
  • 2. Transformer 的输入
  • • 2.1 单词 Embedding
    • 2.2 位置 Embedding
  • 3. Self-Attention（自注意力机制）
  • • 3.1 Self-Attention 结构
    • 3.2 Q, K, V 的计算
    • 3.3 Self-Attention 的输出
    • 3.4 Multi-Head Attention
  • 4. Encoder 结构</