tensorflow的LSTM结构——RNN变形

import tensorflow as tf
# 引入数据集
from tensorflow.examples.tutorials.mnist import input_data
mnist = input_data.read_data_sets("MNIST_data",one_hot = True)

# 输入一行,一行有28个数据
n_inputs = 28
# 一共有28行
max_time = 28
# 隐层单元
lstm_size = 100
# 10个分类
n_classes = 10
# 每批次为50个样本
batch_size = 50
# 计算一共有多少个批次
n_batch = mnist.train.num_examples //batch_size

# None表示第一个维度可以是任意长度
x = tf.placeholder(tf.float32,[None,784])
y = tf.placeholder(tf.float32,[None,10])

# 初始化权值
# tf.truncated_normal正态分布,但如果随机出来的值偏离平均值超过2个标准差,那么这个数将会被重新随机,参数平均值、标准差、取值类型
# [lstm_size,n_classes]表示生成的数据类型stddev表示标准差
weights = tf.Variable(tf.truncated_normal([lstm_size,n_classes],stddev = 0.1))
# 生成常量类型数据
biases = tf.Variable(tf.constant(0.1,shape=[n_classes]))
# 定义RNN网络
def RNN(X,weights,biases):
#     x是指批次训练的数据,数据的形式进行转换
# -1表示batch批量的大小,,max_time,n_inputs表征的是batch中每一个数据的基本结构特征,例如x,y,z等。
# 所以dynamic_rnn实现的功能就是可以让不同迭代传入的batch可以是长度不同数据,但同一次迭代一个batch内部的所有数据长度仍然是固定的。
    inputs = tf.reshape(X,[-1,max_time,n_inputs])
#     定义LSTM的基本CELL
# 需要传入隐藏层的数量,来计算出结果
# 初始化网络结构模型
# tf.nn.rnn_cell.LSTMCell进行说明,因为是1.2版本的API,所以调用这个方法
    lstm_cell = tf.nn.rnn_cell.LSTMCell(lstm_size)
# lstm_cell是指RNNCell的一个实例,inputs表示输入数据,dtypedtype:(可选)初始状态和预期输出的数据类型。
# 如果未提供initial_state或RNN状态具有异构dtype,则为必需。
#     sequence_length:(可选)一个int32 / int64矢量大小[batch_size]。表征可以对batch_size进行调节的数据。
# final_state [batch_size, max_time, cell.output_size] 主要是对输出数据特征的表述
# final_state#     final_state[0]是cell state表示记忆的状态量。
#     final_state[1]是hidden state是状态量。final_state[2]应该是输入的状态量。
# LSTM靠一些“门”的结构让信息有选择性地影响循环神经网络中每个时刻的状态。所谓“门”的结构就是一个使用sigmoid神经网络和一个按位做乘法的操作,
# 这两个操作合在一起就是一个“门”的结构。之所以该结构叫做“门”是因为使用sigmoid作为激活函数的全连接神经网络层会输出一个0到1之间的数值,
# 就是说对于每一个批次,都需要有3个门去控制输入,忘记,输出,三个状态,从而判断这个信号表征这个信号的传递状态。

    outputs,final_state = tf.nn.dynamic_rnn(lstm_cell,inputs,dtype=tf.float32)
#     进行计算
# final_state[1]应该是隐藏状态量的图,从而判断是否选择遗忘或者传递
    results = tf.nn.softmax(tf.matmul(final_state[1],weights)+biases)
    return results

prediction =RNN(x,weights,biases)
# 定义损失函数
cross_entropy = tf.reduce_mean(tf.nn.softmax_cross_entropy_with_logits(logits=prediction,labels=y))
# 定义优化器
train_step = tf.train.AdamOptimizer(1e-4).minimize(cross_entropy)
# 计算准确率
correct_prediction = tf.equal(tf.argmax(y,1),tf.argmax(prediction,1))
accuracy = tf.reduce_mean(tf.cast(correct_prediction,tf.float32))
# 初始化变量
init =tf.global_variables_initializer()

with tf.Session() as sess:
    sess.run(init)
    for epoch in range(6):
        for batch in range(n_batch):
#             batch_xs表示数据集,batch_ys表示标签集
            batch_xs,batch_ys = mnist.train.next_batch(batch_size)
            sess.run(train_step,feed_dict = {x:batch_xs,y:batch_ys})
            
        acc = sess.run(accuracy,feed_dict = {x:mnist.test.images,y:mnist.test.labels})
        print("Iter "+ str(epoch) +",Testing Accuracy" + str(acc))
        

赶紧的,新鲜出炉,。。热腾腾的。。哈哈

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 212,332评论 6 493
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 90,508评论 3 385
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 157,812评论 0 348
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 56,607评论 1 284
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 65,728评论 6 386
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 49,919评论 1 290
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,071评论 3 410
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 37,802评论 0 268
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,256评论 1 303
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 36,576评论 2 327
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 38,712评论 1 341
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,389评论 4 332
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,032评论 3 316
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 30,798评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,026评论 1 266
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 46,473评论 2 360
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 43,606评论 2 350

推荐阅读更多精彩内容

  • 如果婚姻是一本书,每个人都得学习,就拿我来说吧,我喜欢粘人,喜欢乱想,反正女生该有的坏毛病我都有。可是自从有了婚姻...
    姁姝婷乐哈哈阅读 147评论 0 0
  • 霁月难逢,彩云易散,心比天高,身为下贱,风流灵巧招人怨。寿夭多因诽谤生,多情公子空牵念。 红楼大厦,一朝倾倒,多少...
    潇潇雨夹雪阅读 411评论 16 7