Day01、入门—TensorFlow
教程源于：莫烦python：https://morvanzhou.github.io/tutorials/machine-learning/tensorflow/
import tensorflow as tf
import numpy as np
# ###-------1、---------最初例子-----------------------------
# #创建数据
# x_data = np.random.rand(100).astype(np.float32)
# y_data = x_data*0.1 + 0.3
#
# #用 tf.Variable 来创建描述 y 的参数,把 y_data = x_data*0.1 + 0.3
# #想象成 y=Weights * x + biases, 然后神经网络也就是学着把
# # Weights 变成 0.1, biases 变成 0.3.
#
# #搭建模型
# Weights = tf.Variable(tf.random_uniform([1],-1.0,1.0))
# biases = tf.Variable(tf.zeros([1]))
#
# y = Weights*x_data + biases
#
# #计算误差
# loss = tf.reduce_mean(tf.square(y-y_data))
#
# #传播误差
# optimizer = tf.train.GradientDescentOptimizer(0.5)
# train = optimizer.minimize(loss)
#
# #训练
# #先初始化所有之前定义的Variable
# init = tf.global_variables_initializer()
#
# #创建回话Session
# sess = tf.Session()
# sess.run()
#
# for step in range(201):
# sess.run(train)
# if step % 20 == 0:
# print(step,sess.run(Weights),sess.run(biases))
# ###-------2、-----简单应用----session会话控制--------------
#
# import tensorflow as tf
#
# matrix1 = tf.constant([[4,3]])
# print("matrix1:",matrix1)
#
# matrix2 = tf.constant([[2],[2]])
# print("matrix2:",matrix2)
#
# product = tf.matmul(matrix1,matrix2)
# print(product)
#
# #因为 product 不是直接计算的步骤, 所以我们会要使用 Session 来激活 product 并得到计算结果.
# #有两种形式使用会话控制 Session
# #方法1：
# sess = tf.Session()
# result = sess.run(product)
# print(result) #[[14]]
# sess.close()
# #方法2：
# with tf.Session as sess:
# result2 = sess.run(product)
# print(result2) #[[14]]
# ###------3、------简单应用----Variable--------------
#
# import tensorflow as tf
#
# state = tf.Variable(0,name='counter')
#
# #定义常量 one
# one = tf.constant(1)
#
# #定义加法步骤（注：此步并没有直接计算）
# new_value = tf.add(state, one)
#
# #将State 更新成new_value
# update = tf.assign(state,new_value)
#
# #如果你在 Tensorflow 中设定了变量，那么初始化变量是最重要的！！
# #所以定义了变量以后, 一定要定义 init = tf.initialize_all_variables() .
# #init = tf.initialize_all_variables() #tf马上要废弃这种写法
# init = tf.global_variables_initializer() #替换成这样写就好
#
# #使用session
# with tf.Session() as sess:
# sess.run(init)
# for step in range(3):
# print("before:",sess.run(state))
# sess.run(update)
# print("after",sess.run(state))
# ###输出结果：
# # before: 0
# # after 1
# # before: 1
# # after 2
# # before: 2
# # after 3
# ###------4、------简单应用----Variable--------------
#
# import tensorflow as tf
#
# #在 Tensorflow 中需要定义 placeholder 的 type ，一般为 float32 形式
# input1 = tf.placeholder(tf.float32)
# input2 = tf.placeholder(tf.float32)
#
# #mul = multiply 是将input1和input2 做乘法运算，并输出为 output
# output = tf.multiply(input1,input2)
#
# #同理，传值工作交给sess.run(), 需要传入的值放在了feed_dict={} 并一一对应每一个 input.
# #placeholder 与 feed_dict={} 是绑定在一起出现的。
# with tf.Session() as sess:
# print(sess.run(output,feed_dict={input1:[7.],input2:[2.]})) #[14.]
# print(sess.run(output, feed_dict={input1: [1,3], input2: [2,4]})) #[ 2. 12.]
# print(sess.run(output, feed_dict={input1: 3, input2: 2})) #6.0
###------5、----------add_layer()--------------
import tensorflow as tf
import numpy as np
import matplotlib.pyplot as plt
##!!!!!!!!!!!!!!!!!!add_layer()!!!!!!!!!!!!!!!!!!!!!!!!!!
#定义添加神经层的函数def add_layer(),它有四个参数：输入值、输入的大小、输出的大小和激励函数，我们设定默认的激励函数是None
def add_layer(inputs,in_size,out_size,activation_function=None):
#神经层里常见的参数通常有weights、biases和激励函数。
Weights = tf.Variable(tf.random_normal([in_size,out_size]))
biases = tf.Variable(tf.zeros([1,out_size]) + 0.1)
Wx_plus_b = tf.matmul(inputs,Weights) + biases #定义Wx_plus_b, 即神经网络未激活的值
#当activation_function——激励函数为None时，输出就是当前的预测值——Wx_plus_b，
#不为None时，就把Wx_plus_b传到activation_function()函数中得到输出。
if activation_function is None:
outputs = Wx_plus_b
else:
outputs = activation_function(Wx_plus_b)
return outputs
##!!!!!!!!!!!!!!!!!!!!!!!!!构建神经网络!!!!!!!!!!!!!!!!!!!!!!
#导入数据
#构建所需数据，这里的x_data和y_data并不是严格的一元二次函数的关系，因为我们多加了一个noise,这样看起来会更像真实情况
x_data = np.linspace(-1,1,300,dtype = np.float32)[:,np.newaxis]
noise = np.random.normal(0,0.05,x_data.shape).astype(np.float32)
y_data = np.square(x_data) - 0.5 + noise
#利用占位符定义我们所需的神经网络的输入。
#tf.placeholder()就是代表占位符，这里的None代表无论输入有多少都可以，因为输入只有一个特征，所以这里是1。
xs = tf.placeholder(tf.float32,[None,1])
ys = tf.placeholder(tf.float32,[None,1])
#搭建网络
l1 = add_layer(xs,1,10,activation_function=tf.nn.relu)
prediction = add_layer(l1,10,1,activation_function=None)
#计算预测值prediction和真实值的误差，对二者差的平方求和再取平均。
loss = tf.reduce_mean(tf.reduce_sum(tf.square(ys-prediction),reduction_indices=[1]))
train_step = tf.train.GradientDescentOptimizer(learning_rate=0.1).minimize(loss) #以0.1的效率来最小化误差loss
#使用变量时，都要对变量进行初始化，必不可少
init = tf.global_variables_initializer()
#定义Session，并用Session来执行init初始化步骤
sess = tf.Session()
sess.run(init)
#训练
#让机器学习1000次，机器学习的内容是train_step，用Session来run每一次training的数据，逐步提升神经网络的预测准确率
for i in range(1000):
#training
sess.run(train_step,feed_dict={xs:x_data,ys:y_data})
if i % 50 == 0:
try:
ax.lines.remove(lines[0])
except Exception:
pass
#每50步输出一下机器学习的误差
print(sess.run(loss,feed_dict={xs:x_data,ys:y_data}))
prediction_value = sess.run(prediction,feed_dict={xs:x_data})
# 可视化
fig = plt.figure()
ax = fig.add_subplot(1, 1, 1)
ax.scatter(x_data, y_data)
# plt.ion()
lines = ax.plot(x_data,prediction_value,'r-',lw=5)
plt.pause(0.1)
plt.show()
