如何构建一个安全的人工智能世界？
本文3211字，建议阅读9分钟。
本文为美国作者Jack Clark对人工智能安全问题的论述。
本文节选自专著《Technology and National Security: Maintaining America's Edge》，The Aspen Institute ，2019年1月31日。题为《Artificial Intelligence and Countries: What Might Happen, What We’d Like to Happen, What We Should Avoid Letting Happen》。
作者：Jack Clark
编译：学术plus高级评论员 计宏亮
本文继文章《影响国家安全的四项新兴技术》之后，讨论了除了生物技术、小型卫星、量子计算机和认知增强这四种新兴技术对美国国家安全的影响之外，着重从“人工智能”角度，分析该技术对国家安全的影响，最后提出应对建议。
计算机的处理速度正变得越来越快，数据集也愈发丰富，能够开发和部署这项技术的人群范围也大大扩大。人工智能已经成熟到大量非政府实体都在进行AI的开发和部署……
1
Today's AI: A Machine Readable World
当今AI：机器读懂你！
在过去的几年里，基于神经网络的人工智能技术已经不断趋于成熟，AI在与数据分类相关的任务中已经远远优于人类，比如：自动标记图像，抄写文本，或处理更抽象和难以辨别的数据流，例如监视数字网络上的流量流量，并发现异常行为的迹象。
现在AI技术的系统已经用于执行各种任务，并开始进行部署。如：识别医学图像中的肿瘤，预测地震的潜在位置，从视频片段读取嘴唇，识别跟踪城市中的行人，分析无人机镜头进行灾难响应分析……人工智能系统现已足够先进，如果有大量标记良好的数据并可以访问大型计算机，那么将很容易开发一个准确度高于90％的数据分类系统，而在商业开发的情况下，其精度达到99％或更高。
如今，数字化和人工智能的融合让这个世界成为一个“机器可读的世界”，这反过来又使相关方更便宜，更容易使用人工智能来更有效地实现目标。就像谷歌和亚马逊等公司使用AI提升企业运营效率一样，世界各地的情报机构和军队也正在探索如何使用AI来加强信息分析能力，从而可以监控更多世界上的实时信息。
2
人工智能已经深入到各国的发展计划中：中国目标在2030年成为人工智能的全球领导者；韩国、法国、加拿大、英国等国家都宣布了国家人工智能战略；加拿大总理贾斯汀·特鲁多（Justin Trudeau）表示，人工智能使加拿大有机会“在世界舞台上大展身手。”
由于其不言而喻的实用性和重要性，各国将人工智能作为表明其技术进步愿望的一种方式。人工智能技术已经远远超过先前革命的技术水平，各个参与AI进程的国家也将很快获得基于人工智能的能力。很快，人工智能系统将可以驾驭越来越复杂的行动，同时减少人工监督（例如，谷歌的数据中心现在由人工智能算法管理，观察每个设施内传感器的数据流，然后自动调整机器以优化这些数据中心使用电力的效率），而这种转变将极大地拓宽技术的效用。
在这一进程中，我们将看到各国如何相互联系，各国如何与自己的私营公司联系，甚至不良行为者如何利用人工智能对他人造成伤害的深刻影响。
3
Tomorrow's AI: A World in Which 'Unreliable' Machines Act
未来的AI：满世界都是“不靠谱”的机器
未来的人工智能机器人不仅可以对世界进行分类，还可以针对不用的分类采取相应行动。
目前的技术分类已经包括了：自动管理公用电网的软件；教授计算机学习构建云计算基础软件的系统；用于运送机器人和无人机自动导航系统；在建筑物内绘制、导航和打开门的机器人操作系统；以及专门的机器人手动系统，可以教导他们操纵具有类似人类能力的物体；基于为AI提供更强大的想象力和记忆能力的新系统将让我们开发能够分析复杂情况并设想在其中实施的计划和策略的机器，例如OpenAI在策略游戏Dota 2和Alphabet子公司的工作DeepMind在电子竞技游戏星际争霸。
这些系统将越来越擅长在其环境中自动分析和行动，无论是自主探索科学或数学领域还是为物质事物提供动力，总之，已经开始开始影响世界的运行方式。
但值得担心的问题是，随着技术的进一步改进，政府和一些企业将会争先把这些技术部署在敏感领域。而此时这些技术还不够强大，尤其很难保证系统的稳健性和可预测性。即使如此，政府会仍会坚持做一些看似风险很大的举措，其重要原因在于部署人工智能系统获得战略优势非常限制，也因此导致了全球性的技术竞赛。
4
Why Compute, Not Data, Will Drive the Next Phase of AI Development
驱动未来AI发展的关键，究竟是什么？
所有技术进步背后蕴含了一个统一的趋势：人工智能的工业化。这一趋势源于计算能力的增加、更好的工程实践、数字数据量的增加、研究部门的扩大，以及从政府到大公司到个人的技术的多个最终用户的到来。
这种工业化趋势中的一个关键因素是：计算的增长。
目前对计算机的基本预测是：比现在快10倍或100倍，而这些硬件可能会在今年或明年就推出。除此之外，人工智能部门在开发并行使用多台机器的系统方面也越来越好。
例如，OpenAI训练AI已经超过100,000台计算机的速度。这比许多人直觉所表明的要快。OpenAI最近进行的一项分析显示，由于计算机速度更快，并且我们能够并行使用更多计算机，因此重要AI应用程序使用的计算量在大约六年内增长了300,000多次。如果这种趋势成为现实，那么日益强大的AI系统将变得易于开发。这些系统的一般效用将远远大于我们现有的系统，这将扩大部署它们的行为者可用的能力并增加部署它们的压力。
5
Why AI Progression Requires a 'Collaboration Moonshot'
AI进步需要的是什么？
由于人工智能更多体现在软件而非硬件中，因此与国家安全密切相关的技术相比，扩散的速度更加迅速。同样，也是由于基于软件的特点，跟踪和控制的难度也成倍加大。这也将意味着：随着算法强大，以及开发和部署的成本降低，越来越多的参与者将加入技术开发中。
当然，其中大部分将产生积极的影响，可以使得国家更安全，并提高经济生产力，甚至带来医疗保健和公用事业基础设施的飞速进步。但是！由于几乎任何AI算法都可以用于军事和非军事目的，因此，AI的工具也正在进行攻击性的开发，比如通过网络战，机器人平台或无人机的武器化等等。
如果这种非合作竞争的氛围过于强烈，以至于导致技术上的偷工减料，极有可能使得AI系统部署的风险大大增加。如果进一步扩散到全球数字网络上，导致相当于放射性物质的软件分布在世界各地……后果不堪设想。
然而，事实已经证明了这种影响。Stuxnet震网病毒旨在针对伊朗的浓缩设施，但最终也对其他国家的计算机也造成了破坏。最近，NotPetya恶意软件的出现，虽然最开始被认为是由俄罗斯政府因针对乌克兰的计算机而开发，但随后在全球范围内传播，造成数十亿美元的损失并摧毁了许多医院和公用的电网。
相反，如果政府投资于与人工智能安全性、可预测性和稳健性相关的技术，并在全球范围传播，将产生两个重要影响：（1）将增加该政府、学术界、企业技术界间的联系，让三个不同的领域在共同关心的问题上共同努力，并加速发展；（2）对地缘政治可能更具变革性：通过提高AI系统的稳健性和可预测性，与其他政府合作，甚至是可以与那些立场相对的国家建立合作伙伴关系。
目前来说，人工智能尚未达到破坏性应用的程度，因此，国际社会还有时间来处理人工智能安全问题、以及相关的政策挑战。这意味着，我们有时间考虑国家人工智能战略，将人工智能安全作为未来潜在合作的途径，创建全球基础设施，以最大限度地减少事故和滥用。
— 完 —
关注清华-青岛数据科学研究院官方微信公众平台“THU数据派”及姊妹号“数据派THU”获取更多讲座福利及优质内容。