解决多层感知机问题
问题:图像在同一列邻近的像素在这个向量中可能相距较远,它们构成的模式可能难以被模型识别
解决:卷积层保留输入形状,使图像的像素在高和宽两个方向上的相关性均可能被有效识别
问题:对于大尺寸的输入图像,使用全连接层容易造成模型过大
解决:卷积层通过滑动窗口将同一卷积核与不同位置的输入重复计算,从而避免参数尺寸过大
LeNet模型
LeNet分为卷积层块和全连接层块两个部分
卷积层块里的基本单位是卷积层后接最大池化层:卷积层用来识别图像里的空间模式,如线条和物体局部,之后的最大池化层则用来降低卷积层对位置的敏感性。卷积层块由两个这样的基本单位重复堆叠构成
卷积层块的输出形状为(批量大小, 通道, 高, 宽)。当卷积层块的输出传入全连接层块时,全连接层块会将小批量中每个样本变平(flatten)。也就是说,全连接层的输入形状将变成二维,其中第一维是小批量中的样本,第二维是每个样本变平后的向量表示,且向量长度为通道、高和宽的乘积