1、常规卷积
理论上卷积步骤：卷积核翻转；加权求和。
深度学习中的卷积计算中卷积核并未翻转，本质上是相关操作，只是由于卷积核都是随机初始化，导致卷积和互相计算结果一样。
连续公式
离散公式
当前基本全部使用3*3卷积核
大卷积核可由多个小核替代实现，例如：用2个3x3卷积核可以来代替1个5*5卷积核
2、1*1卷积
主要目的是通道之间信息交互、channel变换和减少参数
3、转置卷积
从小图像到大图像的上采样，部分场景叫反卷积，由于只能服务结构，不能恢复数值，称为转置卷积更合适。
4、多孔卷积
在核元素之间插入空格来使核「膨胀」
5、可分卷积
空间可分卷积
典型场景Albert。深度学习却很少使用空间可分卷积，主要原因：
（1）并非所有的核都能分成两个更小的核
（2）二维核变成一维核，影响结构特征提取
深度可分离
参数量大大减少
分组卷积
过滤器会被分为不同的组，每一组都负责特定深度的典型 2D 卷积
6、Deformable可形变卷积
对卷积核中每个采样点的位置都增加了一个偏移的变量，通过这些变量，卷积核就可以在当前位置附近随意的采样，而不再局限于之前的规则格点。
Ref:
https://www.zhihu.com/question/22298352
https://zhuanlan.zhihu.com/p/57575810
https://www.zhihu.com/question/57493889/answer/184578752
