专栏推荐

正文

首先我们先初始一个神经网络模型，然后我们通过训练集误差来确定我们算法是否处于高偏差问题，如果确实处于高偏差的问题，那么我们此时要做的就是选择一个新的神经网络，比如更多的隐藏层或者隐藏单元的网络，或许你能找到一个更合适解决此问题的新的网络架构，要想找到一个新的网络架构我们必须去不断地尝试，只有反复尝试我们才能找到一个新的能够解决偏差问题的网络结构。

按照道理来说只要我们训练一个足够大的神经网络，那么我们就可以很好地拟合训练集，拟合或者过拟合，一旦我们地网络的偏差降低到可以接受地数值，那么我们此时就是用验证集来看一下方差有没有问题，如果方差很高，那么我们最好的解决的办法就是采用更好的数据来训练我们当前的神经网络的架构。如果我们无法获得足够多的数据，那么我们也可以通过正则化来减少过拟合（高方差问题）。

总之我们第一步就是先初始化一个模型，然后我们看此时是否它是高偏差算法，我们之后就通过不断地调整模型，直到找到一个低偏差的框架，只要找到一个低方差的框架，我们就成功了。

在机器学习的初期阶段，关于所谓的偏差方差权衡的讨论屡见不鲜，原因是我们能尝试的方法有很多。可以增加偏差，减少方差，也可以减少偏差，增加方差。

但在深度学习的初期阶段，我们没有太多工具可以做到只减少偏差或方差却不影响到另一方。但在当前的深度学习和大数据时代，只要持续训练一个更大的网络（一般更大的神经网络可以解决高偏差问题），只要准备了更多数据，那么可以做到只减少偏差或方差却不影响到另一方，只要正则适度，通常构建一个更大的网络便可以，在不影响方差的同时减少偏差，而采用更多数据通常可以在不过多影响偏差的同时减少方差。

通过这样的方式我们可以快速的搭建一个相对于良好的神经网络，然后不断迭代，找到最终解决问题的方式