关于人工智能奇点的反思 超级智能AI的道德话题不可忽视

您是否为拔下机器人的插头或关闭人工智能算法感到难过?暂时不行。但是，当我们的计算机变得比我们更聪明时，又如何呢?

关于人工智能的后果的辩论几乎与AI本身的历史一样悠久。大多数讨论都将人工智能的未来描述为像终结者那样的启示录。但是，较少讨论的是当人工智能代理商发展出生活，智力和意识的特征时，我们将如何感知，互动和接受它们。

萨格勒布经济与管理学院的科学家Borna Jalsenjak在最近发表的一篇文章中，讨论了超级智能AI以及生物与人工生命之间的类比。他的工作题目为“人工智能的奇异性：什么是什么，什么不是”，他的著作出现在《深度学习基础指南》中，该论文和论文集探讨了人工智能的各个历史，科学和哲学方面。

贾尔森贾克(Jalsenjak)将我们带入了生命的哲学人类学视野，以及它如何应用于可以通过自身操控而进化的人工智能系统。他认为，当人工智能发展自己的“生命”版本时，“思维机器”将出现。

AI奇点

奇异性是有关通用AI的讨论中经常提到的一个术语。正如与AGI无关的所有事情一样，在奇异性方面存在很多困惑和分歧。但是，大多数科学家和哲学家都认为关键的一点是，这是我们的AI系统变得比我们更智能的转折点。奇异性的另一个重要方面是时间和速度：AI系统将达到可以不断重复和加速地自我完善的程度。

“用一种更简洁的方式说，一旦有一种AI达到了人类的水平，并且AI可以创建稍微更智能的AI，然后又可以创建一个更智能的AI，然后下一个就可以创建Jalsenjak写道，它甚至会变得更加智能，并且会像现在这样持续发展，直到出现一种比人类所能达到的先进得多的AI。

需要明确的是，我们今天拥有的人工智能技术，即狭窄的AI，离实现这一壮举还差得很远。Jalšenjak将当前的AI系统描述为“特定于域的”，例如“ AI擅长制作汉堡包，但不擅长其他任何东西。” 另一方面，讨论AI奇异性的算法是“ AI不是特定于主题的AI，或者因为缺少更好的词，它是无域的，因此可以在任何领域使用，贾尔森贾克写道。

这不是关于如何以及何时到达AGI的讨论。这是一个不同的话题，也是许多辩论的焦点，大多数科学家认为，人类级人工智能至少需要数十年的时间。贾尔森杰克(Jalsenjack)推测了当我们真正到达那里时，无论是明天还是一个世纪，如何定义AI(和人类)的身份。

人工智能边界

在AI社区中，有很大的趋势将机器视为人类，尤其是当它们开发出具有智能迹象的功能时。尽管这显然是对当今技术的高估，但贾森加克还提醒我们，人工智能不是必须复制人类的思想。

“没有理由认为，即使发生了高级人工智能，它也将具有与人类智能相同的结构，但是由于以一种最接近我们的方式呈现世界状态是人类的本性，他在论文的脚注中写道。

人类与当前的人工智能技术之间的最大区别之一是，尽管人类是“活着的”(并且我们很快就会明白这是什么意思)，但AI算法却并非如此。

Jalsenjak写道：“当今的技术状况无疑使技术还没有生命。我们很奇怪的是，是否会出现超级智能，例如在关于奇点的讨论中可以预测到这种超级智能，值得尝试，看看我们是否还可以认为它还活着。”尽管不是有机的，但这种人造的生活会对我们如何感知AI并对其采取行动产生巨大影响。

人工智能要活着需要什么?

贾尔森贾克(Jalsenjak)从哲学人类学的概念中汲取经验，指出生物可以自主行动并照顾自己和其物种，这就是所谓的“内在活动”。贾尔森贾克指出：“至少现在，无论多么先进的机器，它们在这方面始终只能作为人类的扩展而发挥作用。”

生命有不同的层次，而且正如趋势所示，人工智能正在慢慢走向生机。根据哲学人类学的观点，当有机体朝着目标发展时，生命的最初迹象就形成了，这是当今面向目标的AI中所存在的。贾尔森贾克说，人工智能没有“意识到”其目标并且漫不经心地压缩数字以达到这一目标这一事实似乎无关紧要，因为我们认为植物和树木即使没有同样的意识也可以存活。

被认为还活着的另一个关键因素是生物体能够自我修复和改善自身的能力。它也应该生产并照顾它的后代。这是我们在树木，昆虫，鸟类，哺乳动物，鱼类以及几乎所有我们认为活着的东西中看到的东西。自然选择和进化的规律迫使每个生物体建立机制，使其能够学习和发展适应环境，生存并确保其物种生存的技能。

关于抚育子女，贾尔森贾克(Jalsenjak)提出，人工智能的繁殖并不一定与其他生物平行。机器不需要后代来确保物种的生存。AI只需手头有足够的更换零件就可以用新的零件更换故障(失效)零件，从而解决材料劣化问题。”他写道。“生物以多种方式繁殖，因此实际方法并非必不可少。”

关于自我完善，事情变得更加微妙。Jalsenjak指出，即使不同软件之间的自修改程度有所不同，已经有能够自修改的软件。

当今的机器学习算法在一定程度上能够使其行为适应环境。他们将许多参数调整为从现实世界中收集的数据，并且随着世界的变化，可以在新信息上对它们进行重新训练。例如，冠状病毒大流行可能会干扰AI系统对我们的正常行为进行了培训。其中包括面部识别算法，由于人们戴着口罩，该算法不再能够检测到面部。这些算法现在可以通过在戴面具的脸部图像上进行训练来重新调整其参数。显然，与人类和高等动物的广泛能力相比，这种适应水平很小，但是，这可以说比得上当树根表面找不到水时通过生长更深的根来适应的树木。地面。

但是，理想的自我完善型AI可能会创造出全新的算法，从而带来根本性的改进。这就是所谓的“递归自我完善”，将导致更加智能的AI不断循环和加速。尽管AI能够以更快的速度执行，但它可能是生物体经历了许多代的遗传突变的数字等效形式。

如今，我们拥有一些机制，例如遗传算法和网格搜索，可以改善机器学习算法(也称为超参数)的不可训练组件。但是它们带来的变更范围非常有限，并且仍然需要一定程度的人工开发人员的手工工作。例如，您不能指望递归神经网络会通过许多突变而变成一个Transformer。

Jalsenjak指出，递归自我改进将使AI“有可能完全取代正在使用的算法”。“最后一点是发生奇点所需要的。”Jalsenjak总结说，通过类推，通过观察确定的特征，可以将超级智能的AI视为活着的，这使AI是人类的延伸这一说法无效。他说：“他们将有自己的目标，也许还有他们的权利。人类将首次与一个至少与他们一样聪明，而且可能更加聪明的实体共享地球。”您仍然可以在不感到内的情况下拔下机器人的电源吗?

活着还不够

贾尔森贾克在论文的结尾承认，对人造生活的反思还提出了许多其他问题。“这里描述的关于生物的特征是否足以使某事物被认为是活着的?或者仅仅是必要而又不够?” 他问。刚刚读过哲学家和科学家道格拉斯·霍夫斯塔特(Douglas Hofstadter)的《我是一个奇怪的循环》，我绝对可以说不。身份，自我意识和意识是其他将众生区分开的概念。