卷积分析 - 简书

3. 步骤分析

1）收集数据

您会注意到这里有些变化，需要重新调整训练数据。那是因为第一个卷积期望一个包含所有内容的张量，所以我们没有一个列表中的60,000个28x28x1项，而是有一个60,000x28x28x1的4D列表，并且对于测试图像也是如此。如果不这样做，由于卷积无法识别形状，训练时会出现错误。

import tensorflow as tf
mnist = tf.keras.datasets.fashion_mnist
(training_images, training_labels), (test_images, test_labels) = mnist.load_data()
training_images=training_images.reshape(60000, 28, 28, 1)
training_images = training_images/255.0
test_images = test_images.reshape(10000, 28, 28, 1)
test_images = test_images/255.0

2) 定义模型

接下来是定义模型。现在，您将添加一个卷积层，而不是顶部的输入层。
参数如下：

您要生成的卷积数。像“ 32”这样的值是一个很好的起点。
卷积矩阵的大小，在这种情况下为3x3网格。
要使用的激活函数，在这种情况下，我们将使用relu，您可能还记得，它等于当x> 0时返回x，否则返回0。
在第一层中，输入数据的形状。
您将在卷积后面跟随一个最大池化层，该层将被设计为压缩图像，同时保持卷积突出显示的要素的内容。通过将（2,2）指定为最大池，效果是将图像的大小减小4倍。其思想是创建2x2像素数组并选择最大像素值，从而将其变为4像素变为1。它会在整个图像上重复此计算，因此将水平像素的数量减半，将垂直像素的数量减半。

您可以使用model.summary()查看网络的大小和形状，并且您会注意到，在每个MaxPooling层之后，图像大小都是通过这种方式减小的。

_________________________________________________________________
图层（类型）输出形状参数   
================================================== ===============
conv2d_2（Conv2D）（无，26，26，64）640       
_________________________________________________________________
max_pooling2d_2（MaxPooling2（None，13，13，64）0         
_________________________________________________________________
conv2d_3（Conv2D）（无，11、11、64）36928     
_________________________________________________________________
max_pooling2d_3（MaxPooling2（None，5，5，64）0         
_________________________________________________________________
flatten_2（Flatten）（无，1600）0         
_________________________________________________________________
density_4（Dense）（None，128）204928    
_________________________________________________________________
density_5（密集）（无，10）1290      
================================================== ===============

CNN的完整代码:

model = tf.keras.models.Sequential([
tf.keras.layers.Conv2D(32, (3, 3), activation='relu', input_shape=(28, 28, 1)),
tf.keras.layers.MaxPooling2D(2, 2),
# 添加另一个卷积
tf.keras.layers.Conv2D(64, (3,3), activation='relu'),
tf.keras.layers.MaxPooling2D(2,2)
# 现在将输出Flatten。之后，您将拥有与非卷积版本相同的DNN结构
tf.keras.layers.Flatten(),
# 与卷积前示例相同的128个密集层和10个输出层:
tf.keras.layers.Dense(128, activation='relu'),
tf.keras.layers.Dense(10, activation='softmax')
])

3) 编译和训练模型

编译模型，调用fit方法进行训练，并从测试集中评估损失和准确性。

model.compile(optimizer='adam', loss='sparse_categorical_crossentropy', metrics=['accuracy'])
model.fit(training_images, training_labels, epochs=5)
test_loss, test_acc = model.evaluate(test_images, test_labels)
print (‘Test loss: {}, Test accuracy: {}'.format(test_loss, test_acc*100)

4)可视化卷积和池化

该代码将以图形方式向我们展示卷积。打印结果（test_labels [; 100]）向我们显示了测试集中的前100个标签，您可以看到索引0，索引23和索引28的标签都具有相同的值（9）。他们都是鞋子。让我们看一下在每个卷积上进行卷积的结果，您将开始看到它们之间的共同特征。现在，当DNN对该数据进行训练时，它正在使用的信息要少得多，并且可能基于这种卷积/池组合在鞋子之间找到了共同点。

print(test_labels[:100])

结果：

[9 2 1 1 6 1 4 6 5 7 4 5 7 3 4 1 2 4 8 0 2 5 7 9 1 4 6 0 9 3 8 8 3 3 8 0 7
 5 7 9 6 1 3 7 6 7 2 1 2 2 4 4 5 8 2 2 8 4 8 0 7 7 8 5 1 1 2 3 9 8 7 0 2 6
 2 3 1 2 8 4 1 8 5 9 5 0 3 2 0 6 5 3 6 7 1 8 0 1 4 2]

现在，您可以为这些标签选择一些相应的图像，并通过卷积渲染它们的外观。因此，在这段代码中，FIRST_IMAGE，SECOND_IMAGE和THIRD_IMAGE都是踝靴“ 9”的索引。

import matplotlib.pyplot as plt
f, axarr = plt.subplots(3,4)
FIRST_IMAGE=0
SECOND_IMAGE=23
THIRD_IMAGE=28
CONVOLUTION_NUMBER = 6
from tensorflow.keras import models
layer_outputs = [layer.output for layer in model.layers]
activation_model = tf.keras.models.Model(inputs = model.input, outputs = layer_outputs)
for x in range(0,4):
  f1 = activation_model.predict(test_images[FIRST_IMAGE].reshape(1, 28, 28, 1))[x]
  axarr[0,x].imshow(f1[0, : , :, CONVOLUTION_NUMBER], cmap='inferno')
  axarr[0,x].grid(False)
  f2 = activation_model.predict(test_images[SECOND_IMAGE].reshape(1, 28, 28, 1))[x]
  axarr[1,x].imshow(f2[0, : , :, CONVOLUTION_NUMBER], cmap='inferno')
  axarr[1,x].grid(False)
  f3 = activation_model.predict(test_images[THIRD_IMAGE].reshape(1, 28, 28, 1))[x]
  axarr[2,x].imshow(f3[0, : , :, CONVOLUTION_NUMBER], cmap='inferno')
  axarr[2,x].grid(False)

并且您应该看到类似的东西-卷积充分利用了鞋子“鞋底”的本质，有效地将其视为所有鞋子的共同特征。

image

4.练习

尝试编辑卷积。将卷积数从32更改为16或64。这将对准确性和/或训练时间产生什么影响？
删除最后的卷积。这将对准确性或培训时间产生什么影响？
如何添加更多的卷积？您认为这会产生什么影响？尝试一下。
除去除第一个外的所有卷积。您认为这会产生什么影响？尝试一下。
实现一个回调以检查损失功能并在达到一定量后取消训练。