假设我们想把英语句子i am good翻译成法语句子 Je Vais bein    
    
    
    
，首先将原句送入编码器  


     


     


     


  ，使编码器学习原句


 




 




 




 
，并计算特征值   

   

   

   

，在上一篇博客中已经讲解了编码器是如何计算原句的特征值的   

     

     

     

 ，然后我们把从编码器求得的特征值送入解码器



  




  




  




  ，解码器将特征值作为输入  


  


  


  


，并生成目标据    
     
     
     
，流程如下

 在编码器部分




   




   




   




   ，我们了解到可以叠加N个解码器 



 



 



 


，同理                    ，解码器也可以有N个叠加在一起




    




    




    




   ，编码器将原句的所有特征值作为输入传给所有解码器


















，而非只给第一个解码器                    ，因此一个解码器将有两个输入 



     



     



     



   ，一个是来自前一个解码器的输出


















，另一个是编码器输出的特征值

接下来我们学习解码器是如何生成目标句子的    
    
    
    
，当t=1时（t表示时间步）解码器开始工作  


     


     


     


  ，生成目标为句子中的第一个词


 




 




 




 
，当t=2时   

   

   

   

，解码器使用当前的输入和在上一步生成的单词   

     

     

     

 ，来预测句子中的下一个单词



  




  




  




  ，以此类推  


  


  


  


，在每一步中解码器都将上一步生成的单词与输入的词结合起来    
     
     
     
，并预测下一个单词

一个解码器模块及其所有的组件如下图所示

 从上图中可以看到




   




   




   




   ，解码器内部有三个子层 



 



 



 


，分别是

1：带掩码的多头注意力层

2：多头注意力层

3：前馈网络层

与编码器模块相似                    ，解码器模块也有多头注意力层和前馈网络层




    




    




    




   ，但多了带掩码的多头注意力层


















，下面对它们一一进行讲解

一    
    
    
    
、带掩码的多头注意力层

 以英法翻译任务为例                    ，假设训练数据集样本如下

解码器将输入的<sos>作为第一个标记 



     



     



     



   ，并在每一步中将下一个预测词与输入结合起来


















，以预测目标句子    
    
    
    
，直到遇到<eos>为止 

带掩码的多头注意力层就是预测与<sos>相邻的单词时  


     


     


     


  ，模型应该只看到<sos>


 




 




 




 
，所有我们掩盖<sos>后边的所有词   

   

   

   

，因此在使用softmax函数进行归一化之前   

     

     

     

 ，我们需要对数值进行掩码转换



  




  




  




  ，可以用负无穷去掩盖

二  


     


     


     


  、多头注意力层

由下图可以看出  


  


  


  


，每个解码器中的多头注意力层都有两个输入：一个来自带掩码的多头注意力层    
     
     
     
，另一个是编码器输出的特征值 

多头注意力机制的第一步是创建三个矩阵




   




   




   




   ，我们使用从上一个子层获得的注意力矩阵M创建查询矩阵Q 



 



 



 


，使用编码器输出的特征值R创建键矩阵和值矩阵                    ，因为查询矩阵是从M求得的




    




    




    




   ，所以本质上包含了目标句子的特征


















，键矩阵和值矩阵则含有原句的特征                    ，因为它们是用R计算的

三


 




 




 




 
、前馈网络层

 解码器的下一个子层是前馈网络层 



     



     



     



   ，它的工作原理与我们在编码器中用到的完全相同


















，此处不再赘述

四   

   

   

   

、叠加和归一组件

和在编码器部分讲到的一样    
    
    
    
，叠加和归一组件连接子层的输入和输出

五   

     

     

     

 、线性层和softmax层

一旦解码器学习了目标句子的特征  


     


     


     


  ，我们就将顶层解码器的输出送入线性层和softmax层

线性层将生成一个logit向量


 




 




 




 
，其大小等于原句中的词汇量   

   

   

   

，接下来使用softmax函数将logit向量转换成概率   

     

     

     

 ，然后解码器将输出具有高概率值的词的索引值

六



  




  




  




  、解码器总览

通过上图



  




  




  




  ，我们可以总结出以下几点

1：首先  


  


  


  


，我们将解码器的输入转换为嵌入矩阵    
     
     
     
，然后将位置编码加入其中




   




   




   




   ，并将其作为输入送入底层的解码器

2：解码器收到输入 



 



 



 


，并将其发送给带掩码的多头注意力层                    ，生成注意力矩阵M

3：然后将注意力矩阵M和编码器输出的特征值R作为多头注意力层的输入




    




    




    




   ，并再次输出新的注意力矩阵

4：把从多头注意力层得到的注意力矩阵作为输入


















，送入前馈网络层                    ，前馈网络层将注意力矩阵作为输入 



     



     



     



   ，并将解码后的特征作为输出

5：最后我们把从解码器1得到的输出作为输入


















，将其送入解码器2

6：解码器2进行同样的处理    
    
    
    
，并输出目标句子的特征 

七  


  


  


  


、训练Transformer 

我们可以退哦那个过最小化损失函数来训练Transformer网络  


     


     


     


  ，但是应该如何选择损失函数呢


 




 




 




 
，我们已经知道   

   

   

   

，解码器预测的是词汇的概率分布   

     

     

     

 ，并选择概率最高的词作为输出



  




  




  




  ，所有我们需要让预测的概率分布和实际的概率分布之间的差异最小化  


  


  


  


，要做到这一点    
     
     
     
，可以将损失函数定义为交叉熵定义函数




   




   




   




   ，我们通过最小化损失函数来训练网络 



 



 



 


，并使用Adam算法来优化训练过程

另外需要注意                    ，为了防止过拟合




    




    




    




   ，我们可以将dropout方法应用于每个子层的输入以及嵌入和位置编码的总和

创作不易 觉得有帮助请点赞关注收藏~~~