卷积网络也叫卷积神经网络(convolutional neural network,CNN),是一种专门用来处理类似具有网络结构的数据的神经网络。
卷积网络是指那些至少在网络的一层中使用卷积运算来代替一般的矩阵乘法运算的神经网络。
在卷积网络的术语中,第一个参数x通常叫做输入,第二个参数w叫做核函数,输出有时被称为特征映射。卷积运算符号一般用星号表示。
在机器学习领域中,输入通常是多维数组的数据,而核通常是由算法学习优化得到的多维数组的参数。我们把多维数组称之为张量。
卷积是可交换的。
卷积运算可交换的原因是因为我们将核相对输入进行了翻转(flip)
互相关函数并没有对核进行翻转。
单独使用 卷积运算在机器学习中是很少见的,卷积经常与其他函数一起使用,因此无论卷积运算是否对它的核进行了翻转,这些函数的组合通常是不可交换的。
因为卷积网络通常使用多通道(我自己感觉这个多通道的意思是,就是叠层,就是比方说一个6*2*2的识别一个 色块,然后再用另一个识别另一个色块)的卷积,所以即使使用了核翻转,也不一定保证网格的线性运算是可交换的。
离散卷积通常可以看作是矩阵的乘法。但是这个矩阵的一些元素被限制为必须和另外一些元素相等,此外,通常还是一个稀疏矩阵。(这是因为核的大小通常要远小于输入图像的大小 )
任何一个使用矩阵乘法但是并不依赖矩阵结构的特殊性质的神经网络算法,都适用于卷积运算,并且不需要对神经网络做出大的修改。
这里的矩阵结构的特殊性质是什么?
我估计是什么对角阵,三角阵,对称阵之类的吧