重点关注
- 输入向量x和t-1时间的状态关系
- 当前t时间状态向量的组成成分
c(t) = f(t)*c(t-1)+i(t)c(~)
h(t) = o(t) * tanh(c(t))
output, state = tf.nn.dynamic_rnn(...) # lstm
# output = [B, T, H], state = [c=[B, H], h=[B, H]]
# c 为lstm最后一个单元的的传导状态, h为lstm最后一个单元的输出.
LSTM 基于RNN的改进方法
LSTM
计算公式
LSTM传导图
LSTM传导图