lstm 参数量（【nn.LSTM详解】）

参数详解

nn.LSTM是pytorch中的模块函数    
    
    
    
  ，调用如下：

torch.nn.lstm(input_size,hidden_size,num_layers,bias,batch_first,dropout,bidirectional)

详细介绍一下参数：

input_size：表示的是输入的矩阵特征数


     


     


     


     
，或者说是输入的维度；

hidden_size：隐藏层的大小（即隐藏层节点数量）
 




 




 




 




，输出向量的维度等于隐藏节点数；

num_layers：lstm 隐层的层数   

   

   

   

 ，默认为1；

bias：隐层状态是否带 bias 

     

     

     

     ，默认为 true；

batch_first：True 或者 False

  




  




  




  




，如果是 True  


  


  


  


，则 input 为(batch, seq, input_size)  
     
     
     
     ，默认值为：False（seq_len, batch, input_size）

dropout：默认值0


   




   




   




   



，除最后一层 



 



 



 



，每一层的输出都进行dropout；

bidirectional：如果设置为 True, 则表示双向 LSTM                      ，默认为 False    
    
    
    
。

输入输出

nn.LSTM中输入与输出关系为output, (hn, cn) = lstm(input, (h0, c0))



    




    




    




    


，输入输出格式如下：

##输入数据格式： input(seq_len, batch, input_size) h0(num_layers * num_directions, batch, hidden_size) c0(num_layers * num_directions, batch, hidden_size) ##输出数据格式： output(seq_len, batch, hidden_size * num_directions) hn(num_layers * num_directions, batch, hidden_size) cn(num_layers * num_directions, batch, hidden_size)

input (seq_len, batch, input_size)



















，seq_len表示每个batch输入多少数据                      ，batch表示把数据分成了batch批,input_size为样本输入维度     


     


     


     


  。

output(seq_len, batch, hidden_size * num_directions)



     



     



     



     

，output是一个三维张量



















，第一维表示序列长度    
    
    
    
  ，第二维表示数据批次的多少batch


     


     


     


     
，即数据分为几批送进来
 




 




 




 




，第三维hidden_size隐藏层大小   

   

   

   

 ，双向则二倍 

     

     

     

     ，单向则等价于隐藏层大小




 




 




 




 
。

hn是一个三维张量

  




  




  




  




，第一维是num_layers*num_directions  


  


  


  


，num_layers是我们定义的神经网络的层数  
     
     
     
     ，num_directions表示是否为双向LSTM；第二维表示一批的样本数量；第三维表示隐藏层的大小
   

   

   

   

。

c_n与h_n一致     

     

     

     

 。