深度神经网络是如何成为图像大师的？
深度学习为何如此有效仍是个谜。
在本文中，我们将尝试用神经网络为我们绘制抽象的图像，然后对这些图像进行解释，以便对神秘面纱下发生的事情有更好的理解。
看完这篇文章，你将学会生成一些图像，如下所示。
（所有内容都少于100行PyTorch 代码。随附的Jupyter notebook：https://github.com/paraschopra/abstract-art-neural-network）
这幅图像是如何生成的？
这张图片是由一个简单的架构—复合模式生成网络（CPPN）生成的。
（你可以通过http://blog.otoro.net/2015/06/19/neural-network-generative-art/这篇文章来了解。）
文章中，作者通过用JavaScript编写的神经网络生成抽象图像。而本文用PyTorch实现了它们。
通过神经网络生成图像的一种方法是让它们一次性输出完整的图像，比如说，下面的被称为“生成器”的神经网络将随机噪声作为输入，并在输出层中生成整个图像（以及宽度*高度）。
与输出整个图像不同，CPPN在给定位置（作为输入）输出像素的颜色。
忽略上面图像中的z和r，注意网络正在获取像素的x，y坐标，并输出该像素应该是什么颜色（用c表示）。这种网络的PyTorch模型如下所示：
class NN(nn.Module):
def __init__(self):
super(NN, self).__init__()
self.layers = nn.Sequential(nn.Linear(2, 16, bias=True),
nn.Tanh(),
nn.Linear(16, 16, bias=False),
nn.Tanh(),
nn.Linear(16, 16, bias=False),
nn.Tanh(),
nn.Linear(16, 16, bias=False),
nn.Tanh(),
nn.Linear(16, 16, bias=False),
nn.Tanh(),
nn.Linear(16, 16, bias=False),
nn.Tanh(),
nn.Linear(16, 16, bias=False),
nn.Tanh(),
nn.Linear(16, 16, bias=False),
nn.Tanh(),
nn.Linear(16, 16, bias=False),
nn.Tanh(),
nn.Linear(16, 3, bias=False),
nn.Sigmoid())
def forward(self, x):
return self.layers(x)
请注意，它接受2个输入，并有3个输出（像素的RGB值）。生成整个图像的方法是输入所需图像（特定大小）的所有X、Y位置，并将这些X、Y位置的颜色设置为网络输出的颜色。
神经网络实验
也许，当你尝试运行上面的神经网络时，你会生成下面的图像：
也许你会充满疑问：为什么不管你提供的是什么x，y位置，网络输出的都是灰色？理想情况下，这不应该发生，因为这个网络如此的深。更改输入值就应更改输出值。
每次神经网络初始化时，由于参数（权重和偏差）的随机初始化，它都有可能生成一个全新的图像。但往往即使经过几次尝试，你从神经网络中得到的都是这种一片灰色。为什么？
有人可能会说，是所用的特定激活函数-tanh 的问题。可能后续层中的多个tanh序列在输出层（代表灰色）将所有输入数字压缩到接近0.5。然而，本文最开始推荐的那篇文章中也使用了tanh。我们所做的只是将博客中用JavaScript编写的神经网络转换成PyTorch而没有做任何更改。
根源问题在哪里？
当一个新的神经网络被初始化时，PyTorch是如何初始化权重的？根据用户论坛，他们用从-1/sqrt（N）到+1/sqrt（N）随机抽取的数字初始化权重。其中n是一个层中传入连接的数量。因此，如果对于隐藏层N=16，权重将会被初始化为-1/4 到 +1/4之间。所以，我们可以做如下猜测：假设产生一片灰色的原因是因为权重的范围很小，而且变化不大。
如果网络中的所有权重都在-1/4到+1/4之间，当乘以任何输入并加在一起时，可能会发生类似中心极限定理的效果。
中心极限定理（CLT）证明：在某些情况下，添加独立随机变量，即使原始变量本身不是正态分布，它们适当归一化的和也趋向于正态分布（非正式地称为“钟形曲线”）。
回想如何计算后续层上的值。
在我们的例子中，第一个输入层有2个值（x，y），第二个隐藏层有16个神经元。所以，第二层上的每个神经元得到2个值乘以权重，这些权重值在-1/4 到 +1/4之间。这些值被求和，然后在它从激活函数tanh开始后，成为要传递到第三层的新值。
现在，从第二层开始，有16个输入要传递到第三层的16个神经元中的每一个。假设这些值中的每一个都用z表示，那么第三层中每个神经元的值是：
这是我们的另一个猜测。由于权重的方差较小（-1/4到+1/4），z的值（即输入x，y乘以权重，然后通过tanh函数）也不会变化太多（因此会相似）。所以这个方程可以看作：
对于每个神经元，从-0.25到+0.25的16个权重之和的最可能值是零。即使在第一层，和不接近零，网络的八层给了上述方程足够的机会使最终产生接近零的值。因此，不管输入值（x，y）如何，进入激活函数的总值（权重乘以输入的综合）总是接近零值，tanh映射为零（因此，所有后续层中的值保持为零）。
x轴是tanh的输入，y轴是输出。请注意，0映射到0。
灰色的原因是什么？这是因为s形函数（最后一层的激活功能）将这个输入值取零，并映射到0.5（表示灰色，0表示黑色，1表示白色）。
注意s形函数如何将输入值0映射到0.5。
如何修复一片灰色？
由于根源是权重的微小变化，我们下一步要做的就是增加它。更改默认的初始化函数，将权重从-100分配到+100（而不是-1/4到+1/4）。现在运行神经网络，我们可以得到：
哇！一片灰色现在是一些颜色的斑点。
现在有了一些进展。我们的假设是正确的。但是生成的图像仍然没有太多的结构。这太简单了。
这个神经网络在表面下所做的就是将输入与权重相乘，推动它们通过tanh，最后通过s形函数输出颜色。既然我们固定了权重，那么可以修改输入以使输出图像更有趣吗？当然。
请注意，上面的图像是在输入x，y作为原始像素坐标时生成的，这些坐标从0,0开始到128，128结束（这是图像的大小）。这意味着我们的网络从来没有一个负数作为输入，而且由于这些数字很大（比如x，y可以是100，100），tanh函数要么得到一个很大的数字（它被压缩到+1），要么得到一个很小的数字（它被压扁到-1）。这就是我们看到原色的简单组合的原因（例如，0,1,1的R，G，B输出代表你在上图中看到的青色）。
如何使图像变得有趣？
就像在文章最开始提到的那篇文章中一样，我们将x和y标准化。因此，我们不输入x，而是输入（x/image_size）-0.5。这意味着x和y的值范围为-0.5到+0.5（不考虑图像大小）。这样就得到了以下图像：
还是有一些进展的！
有趣的是，在前一幅图像中，线条一直向右下角增长（因为x，y值在增加）。这里，因为x，y值是标准化的并且现在包含负数，所以这些线向外均匀地增长。
然而，图像仍然不够漂亮。
如何使图像更有趣一些？
如果你仔细观察，你会发现在图像的中间，似乎有比边缘更多的结构。这是数学之神给我们的暗示，我们应该放大那里去寻找美。
有三种放大图像中心的方法：
· 生成一幅大图像。由于像素坐标是标准化的，我们可以简单地运行神经网络来生成更大的图像。然后，我们可以通过图像编辑工具放大中间部分，看看我们发现了什么。
· 将x和y输入乘以少量（缩放因子），这将有效地实现与前一种方法相同的结果（并避免我们在其他无趣区域进行浪费的计算）。
· 由于输出是由输入乘以权重决定的，因此我们也可以通过将权重值从-100、+100减少到+3、-3等其他值来进行缩放而不是减少输入值（同时记住不要过度减少。还记得如果权重在-0.25到+0.25范围内就会出现一片灰色吗？）。
当我们采用第二种方法将x和y乘以0.01时，得到了：
当采用第三种方法并将权重初始化为介于-3和+3之间时，这是我们得到的图像：
你的思维打开了吗？
更多的实验
将权重初始化更改为正态分布（平均值为0，标准差为1），并生成多个图像（下图是从随机初始化开始的）。
当移除所有隐藏层（仅输入到输出映射）时：
0个隐藏层
当仅保留一个隐藏层（而不是默认的8个隐藏层）时：
1个隐藏层
当把隐藏层的数量加倍到16层时：
16个隐藏层，每层有16个神经元
正如你所能想象的，随着增加隐藏层的数量，图像变得越来越复杂。如果不是将层加倍，而是将层的数量保持不变（8），但是将每层神经元的数量加倍（从16到32），会发生什么？我们得到的是：
8个隐藏层，每层32个神经元
请注意，尽管在上述两种情况下，网络中的权重总数是相似的，但具有两个层的网络比每层双倍神经元的网络更像素化。像素表示，在这些区域中，函数变化剧烈，因此如果我们进一步缩放，会发现更多的结构。而对于层数不变但每层神经元数量加倍的网络，其功能相当平滑，因此“可缩放性”较小。
当然，所有这些都是深度使神经网络更具表现力的另一种说法。
计算函数的复杂度随深度呈指数增长。
这正是我们所看到的。一般的逼近定理认为，理论上，一个足够大的神经网络，即使有一个隐藏层，也可以表示任何函数。但在实践中，网络越深，输入到输出映射就越复杂。
毫无意义但很有趣的实验
如果我们把每层神经元的数量从8个增加到128个（数量级的增加）。
神经-波洛克！
如果我们从每一个隐藏层128个神经元开始，然后像下面这样逐渐地在后续层将它们减半。
self.layers = nn.Sequential(nn.Linear(2, hidden_n, bias=True),
nn.Tanh(),
nn.Linear(128, 64, bias=False),
nn.Tanh(),
nn.Linear(64, 32, bias=False),
nn.Tanh(),
nn.Linear(32, 16, bias=False),
nn.Tanh(),
nn.Linear(16, 8, bias=False),
nn.Tanh(),
nn.Linear(8, 4, bias=False),
nn.Tanh(),
nn.Linear(4, 3, bias=False),
nn.Sigmoid())
我们得到的是：
这个看起来比其他的更“自然”。
有很多实验可以做并且得到有趣的图像，你可以尝试更多的架构、激活和层次。