CNN的多输入通道和多输出通道

之前的输入都视为二维数组，但是真实数据往往具有更高的维度，彩色图像有RGB三个颜色通道，那么这个图像（高为h，宽为w）可以表示为$3\ast h\ast w$的多维数组，一般将表示通道数的维（即3这一维）称为通道维。

多输入通道

对于多维的输入，与二维的输入卷积操作类似，只是这里我们的卷积核需要构造成与输入数据通道数相同，从而使其能够与多通道数据进行互相关运算。

卷积的结果为将各个通道的互相关运算结果相加

例如，对与双通道数据，其维度为（2 * 3 * 3）：
$$input=\left[\begin{array}{c}\left[\begin{array}{ccc}0& 1& 2\\ 3& 4& 5\\ 6& 7& 8\end{array}\right]\\ \\ \left[\begin{array}{ccc}1& 2& 3\\ 4& 5& 6\\ 7& 8& 9\end{array}\right]\end{array}\right]$$

使用卷积核，其维度为（2 * 2 * 2）：

$$kernel=\left[\begin{array}{c}\left[\begin{array}{cc}0& 1\\ 2& 3\end{array}\right]\\ \\ \left[\begin{array}{cc}1& 2\\ 3& 4\end{array}\right]\end{array}\right]$$

那么运算为：
$$input\ast kernel=\left[\begin{array}{c}\left[\begin{array}{ccc}0& 1& 2\\ 3& 4& 5\\ 6& 7& 8\end{array}\right]\\ \\ \left[\begin{array}{ccc}1& 2& 3\\ 4& 5& 6\\ 7& 8& 9\end{array}\right]\end{array}\right]\ast \left[\begin{array}{c}\left[\begin{array}{cc}0& 1\\ 2& 3\end{array}\right]\\ \\ \left[\begin{array}{cc}1& 2\\ 3& 4\end{array}\right]\end{array}\right]=\left[\begin{array}{ccc}0& 1& 2\\ 3& 4& 5\\ 6& 7& 8\end{array}\right]\ast \left[\begin{array}{cc}0& 1\\ 2& 3\end{array}\right]+\left[\begin{array}{ccc}1& 2& 3\\ 4& 5& 6\\ 7& 8& 9\end{array}\right]\ast \left[\begin{array}{cc}1& 2\\ 3& 4\end{array}\right]=\left[\begin{array}{cc}56& 72\\ 104& 120\end{array}\right]$$

实现多通道的互相关运算：

import torch
from torch import nndef corr2d_multi_in(X, K):# 沿着X和K的第0维（通道维）分别计算再相加res = d2l.corr2d(X[0, :, :], K[0, :, :])for i in range(1, X.shape[0]):res += d2l.corr2d(X[i, :, :], K[i, :, :])return resdef corr2d(X, K):  h, w = K.shapeY = torch.zeros((X.shape[0] - h + 1, X.shape[1] - w + 1))for i in range(Y.shape[0]):for j in range(Y.shape[1]):Y[i, j] = (X[i: i + h, j: j + w] * K).sum()return Y

输入数据验证上面的矩阵计算：

X = torch.tensor([[[0, 1, 2], [3, 4, 5], [6, 7, 8]],[[1, 2, 3], [4, 5, 6], [7, 8, 9]]])
K = torch.tensor([[[0, 1], [2, 3]], [[1, 2], [3, 4]]])corr2d_multi_in(X, K)

输出：

tensor([[ 56.,  72.],[104., 120.]])

多输出通道

当输入通道有多个时，因为我们对各个通道的结果做了累加，所以不论输入通道数是多少，输出通道数总是为1。
设卷积核输入通道数和输出通道数、高和宽分别为：
$$c_i、c_o、k_h、k_w$$
如果希望得到含多个通道的输出，我们可以为每个输出通道分别创建一个核数组，其形状为：
$$c_i\times k_h\times k_w$$
将它们在输出通道维上连结，卷积核的形状即为
$$c_o\times c_i\times k_h\times k_w$$
在做互相关运算时，每个输出通道上的结果由卷积核在该输出通道上的核数组与整个输入数组计算而来。

该运算可以实现如下：

def corr2d_multi_in_out(X, K):# 对K的第0维遍历，每次同输入X做互相关计算。所有结果使用stack函数合并在一起return torch.stack([corr2d_multi_in(X, k) for k in K])

测试该运算：

K = torch.stack([K, K + 1, K + 2])
#(K+1)K中每个元素加一
K.shape # torch.Size([3, 2, 2, 2])

则现在的核数组为：
$$kernel=\left[\begin{array}{c}\left[\begin{array}{c}\left[\begin{array}{cc}0& 1\\ 2& 3\end{array}\right]\left[\begin{array}{cc}1& 2\\ 3& 4\end{array}\right]\end{array}\right]\\ \\ \left[\begin{array}{c}\left[\begin{array}{cc}1& 2\\ 3& 4\end{array}\right]\left[\begin{array}{cc}2& 3\\ 4& 5\end{array}\right]\end{array}\right]\\ \\ \left[\begin{array}{c}\left[\begin{array}{cc}2& 3\\ 4& 5\end{array}\right]\left[\begin{array}{cc}3& 4\\ 5& 6\end{array}\right]\end{array}\right]\end{array}\right]$$

corr2d_multi_in_out(X, K)

输出：

tensor([[[ 56.,  72.],[104., 120.]],[[ 76., 100.],[148., 172.]],[[ 96., 128.],[192., 224.]]])