前言

最近尝试看TensorFlow中Slim模块的代码，看的比较郁闷，所以试着写点小的代码，动手验证相关的操作，以增加直观性。

卷积函数

slim模块的conv2d函数，是二维卷积接口，顺着源代码可以看到最终调的TensorFlow接口是convolution，这个地方就进入C++层面了，暂时不涉及。先来看看这个convolution函数，官方定义是这样的：

tf.nn.convolution(
    input,
    filter,
    padding,
    strides=None,
    dilation_rate=None,
    name=None,
    data_format=None
)

其中在默认情况下，也就是data_format=None的时候，input的要求格式是[batch_size] + input_spatial_shape + [in_channels], 也就是要求第一维是batch，最后一维是channel，中间是真正的卷积维度。所以这个接口不仅只支持2维卷积，猜测2维卷积tf.nn.conv2d是对此接口的封装。[batch, height, weight, channel]就是conv2d的input参数格式，batch就是样本数，或者更狭隘一点，图片数量，height是图片高，weight是图片的宽，Slim的分类网络都是height=weight的，以实现方阵运算，所有slim模块中的原始图片都需要经过预处理过程，这里不展开。

filter参数是卷积核的定义，spatial_filter_shape + [in_channels, out_channels]，对于2维卷积同样是4维参数[weight, height, channel, out_channel]。

明明是2维卷积，输入都是4维，已经有点抽象了，所以进入下一个阶段，写段代码，验证一下吧。

实践一下

这个例子先定义一个3X3的图片，再定义一个2X2的卷积核，代码如下：

import tensorflow as tf

input = tf.constant(
[
        [
                [
                        [100., 100., 100.],
                        [100., 100., 100.],
                        [100., 100., 100.]
                ],
                [
                        [100., 100., 100.],
                        [100., 100., 100.],
                        [100., 100., 100.]
                ],
                [
                        [100., 100., 100.],
                        [100., 100., 100.],
                        [100., 100., 100.],
                ]
        ]
]
);


filter = tf.constant(
[
        [
                [
                        [0.5],
                        [0.5],
                        [0.5]
                ],
                [
                        [0.5],
                        [0.5],
                        [0.5]
                ]
        ],
        [
                [
                        [0.5],
                        [0.5],
                        [0.5]
                ],
                [
                        [0.5],
                        [0.5],
                        [0.5]
                ]
        ],
]
);

result = tf.nn.convolution(input, filter, padding='VALID');

with tf.Session() as sess:
        print sess.run(result)

从上述代码可以看到，input的shape是[1, 3, 3, 3]，filter的shape是[2, 2, 3, 1 ]，卷积的过程在方阵[3, 3] 和 核[2, 2]上展开，并且由于有三个通道，每个通道分别卷积后求和。

代码的执行结果：

[
[
[
[600.]
[600.]
]
[
[600.]
[600.]
]
]
]

由于我们填的padding参数是VALID，所以最后的结果矩阵面积会缩小，满足（3-2）+1，即 (iw - kw) + 1。

以上例子，我们可以将它称为单张图片的二维3通道卷积，所以计算过程应该是每个通道进行卷积后最后三个通道的数值累加。

如果是从单个通道看，input就是:

[
[100., 100., 100,]
[100., 100., 100,]
[100., 100., 100,]
]

卷积核：

[
[0.5, 0.5]
[0.5, 0.5]
]

那么单层卷积结果：

[
[200., 200.]
[200., 200.]
]

将三层结果叠加就是程序输出结果。

增加输出通道

slim.conv2d函数的第二参数就是输出通道的数量，就是对应convolution接口filter的第4维，我们把程序改一下，增加一个输出通道：

filter = tf.constant(
[
        [
                [
                        [0.5, 0.1],
                        [0.5, 0.1],
                        [0.5, 0.1]
                ],
                [
                        [0.5, 0.1],
                        [0.5, 0.1],
                        [0.5, 0.1]
                ]
        ],
        [
                [
                        [0.5, 0.1],
                        [0.5, 0.1],
                        [0.5, 0.1]
                ],
                [
                        [0.5, 0.1],
                        [0.5, 0.1],
                        [0.5, 0.1]
                ]
        ],
]
);

最后的输出结果：

[
[
[
[600. 120.]
[600. 120.]
]
[
[600. 120.]
[600. 120.]
]
]
]

其中 120 = 3 * （100 * 0.1 + 100 * 0.1 + 100 * 0.1 + 100 * 0.1）

从结果可以看到，输出结果满足 [batch_size] + output_spatial_shape + [out_channels]的格式。

padding=SAME更常用

上面的例子中使用了padding=VALID，是指不填充的情况下进行的有效卷积结果矩阵面积会收缩。而我们在阅卷几个经典网络时，都是使用padding=SAME的方式，这种方式下，结果输出矩阵形状不变，这样就便于对不同分支结果进行连接等操作。

将第一个例子中的padding改为SAME，输出结果为:

[
[
[
[600.]
[600.]
[300.]
]
[
[600.]
[600.]
[300.]
]
[
[300.]
[300.]
[150.]
]
]
]

在SAME模式下，为了保证输出结果输入输入形状一致，实时上在原矩阵的的右侧和底部扩展了行、列 0