LSTM运行状态

重点关注

  1. 输入向量x和t-1时间的状态关系
  2. 当前t时间状态向量的组成成分
    c(t) = f(t)*c(t-1)+i(t)c(~)
    h(t) = o(t) * tanh(c(t))
output, state = tf.nn.dynamic_rnn(...) # lstm 
# output = [B, T, H], state = [c=[B, H], h=[B, H]]  
# c 为lstm最后一个单元的的传导状态, h为lstm最后一个单元的输出.

LSTM 基于RNN的改进方法

LSTM

计算公式

LSTM传导图

LSTM传导图

https://blog.csdn.net/hust_tsb/article/details/79485268

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。