并非愚人节：科学家创建可自我复制神经网络，AI像生命体一样繁殖

新智元编译

来源：thenextweb

编译：小潘

【新智元导读】自体复制是生物体生活中的一个关键部分，然而这在以往的人工智能中被忽略了。最近，一些计算机科学家开始创造可以进行自体复制的神经网络，他们把这项研究发在了arXiv上。

这是生命繁衍的一个重要过程，也是生物体通过自然选择来进化的至关重要的一步。该论文的第一作者、哥伦比亚大学的博士生Oscar Chang向The Register解释说，他们的目标是通过模仿生物的繁衍过程来观察人工智能是否能持续地自体复制。

“其主要动机是人工智能代理（AI agent）是由深度学习驱动的，自我复制机制为达尔文自然选择的发生提供了保障，如果神经网络有自我复制的机制，那么人工智能代理社群就可以通过像自然界一样的自然选择来简单地提高自己。”

科研人员将他们的工作与一种可以学习如何生成源代码的副本的计算机程序quines相比较。然而，在神经网络中，被克隆的是网络的权重而非源代码，因为权重才决定了不同节点之间的网络连接值。

研究人员建立了一个用于产生网络权重的前馈“vanilla quine”网络。 vanilla quine网络也可以通过自我复制权重来解决任务。 他们将它用于MNIST数据集上的图像分类来识别0到9手写数字。

与拥有数百万个参数的标准图像识别模型相比，这些网络较小，最多有21,100个参数。

网络分类是否准确？

测试网络需要60000个MNIST图像作为训练集，并用10000个作为测试。经过30次迭代后，quine网络的准确率达到了90.41％。虽然网络的效果相比较于更大，更复杂的图像识别系统不算优越，但这也不算很糟糕。

该论文中指出，“自体复制占据了神经网络能力的很大一部分”。换句话说，如果神经网络需要进行自体复制，那么它无法集中于图像识别任务上。

文章中提出：“这是一个有趣的发现，一个网络在在完成一个特定任务的同时要进行自体复制是很困难的，表明了这两个目标相互矛盾，

Chang无法解释为什么会发生这种情况，但是这种情况在自然界中也并非罕见。

“其中的原理很难解释。 但我们注意到，这种现象与自然界中生殖和其他任务之间需要维持的平衡相类似。例如，我们的荷尔蒙可以帮助我们适应环境，在食物短缺的时候，我们的性欲下降，优先考虑生存而非生殖。所以目前看起来神经网络中的自体复制并不是那么有效，但它仍然是一个有趣的实验。”

他补充说：“据我们所知，我们第一个解决了神经网络构建中自体复制机制的问题。因此，我们的工作应该被视为概念证明。”

但是研究人员希望有一天它可以用于计算机安全领域或受损系统中的进行自我修复。

“学习如何增强或减少AI程序自替复制的能力对计算机安全非常有用。例如，我们可能希望人工智能能够执行其源代码，而不需要通过它自己的意志或与对抗网络的交互来对其进行反向工程。

他指出，自体复制还可以用于受损物理系统的自我修复。他还补充道： “这同样适用于人工智能，其中自体复制机制可以作为检测损伤的最后手段，也可以将受损或失控的AI系统恢复正常。”

论文地址：

https://arxiv.org/pdf/1803.05859.pdf