联手马斯克创立神秘组织，他正改写人类与AI的未来

pocheng 新智元 昨天

新智元推荐

来源：湛庐文化（ID：cheerspublishing）

作者：pocheng

编辑：克雷格

【新智元导读】2014年，泰格马克与斯图尔特·罗素、史蒂芬·霍金联合在赫芬顿邮报上发表的《超越我们对超级智能机器的自满》一文，引发媒体对AI安全报道，泰格马克背后的未来生命研究所也名声大噪。未来生命研究所究竟是在什么样的情况下诞生的呢？为什么马斯克、霍金都加入了科学顾问委员会？本文带你了解未来生命研究所的前世今生。

一场影响人类未来的大会，和一个组织

在2015年第一个星期天的下午，一群人悄然集结参加一场在波多黎各某度假胜地举办的闭门会议。这场会议，汇集了牛津大学人工智能伦理学家尼克·博斯特伦、Skype的创始人扬·塔里安以及Google的AI专家肖恩·莱格。会议有着非常乐观的主题：“AI的未来：机遇与挑战并存”，而让这场大会显得更加神秘的是，一切媒体记者被禁止参加，同时参会者在参会期间也不能私下公开看法。

波多黎各大会参会者合影

在长达一周的会议即将落幕的傍晚时分，所有人准备走向酒吧，参加随后的庆祝聚会。而大会的主办人泰格马克教授，却让大家再留步片刻，“有个大事情要宣布”。随后，一个健硕的身影走到台前，他就是伊隆·马斯克。灯光下，马斯克的出现让台下爆发一阵骚动。

马斯克清了清喉咙，开始宣布，要将1000万美元捐赠给这个MIT教授创立仅一年的组织——未来生命研究所（Future of Life Institute的英文缩写，简称FLI）。

未来生命研究所诞生记

马斯克是在最后几分钟才赶到庆典现场。两天后，SpaceX就要进行一次重要的火箭发射，尝试在海面平台回收部分火箭。但他还是坚持赶到了现场，因为他相信，这场大会和这个新诞生的组织，对世界有着非同寻常的意义。

在很多媒体的报道中，经常是这样描述伊隆·马斯克——一个坚定的人工智能威胁论者。起因是他在2014年8月发布的那条人尽皆知的推特：“我们需要对AI保持谨慎。它们可能比核武器还要危险。”

未来生命研究所作为一家非盈利组织，

链接学术界与科技企业界，推动“AI有益运动”的发展

也几乎是与此同时，一位MIT的教授也在这样的信念下，推动着自己的计划。因为马斯克那条有些“危言耸听”的推特，两人的故事发生了交集。几乎是一拍即合，在他们第一次电话联络的时候，马斯克便同意加入未来生命研究所的科学顾问委员会，并表示愿意资助未来生命研究所筹备开篇提到的波多黎各大会。

那这个未来生命研究所究竟是在什么样的情况下诞生的呢？成立之后究竟为了推进什么研究呢？

疯狂迈克斯

在成立未来生命研究所之前，作为MIT物理学终身教授，泰格马克已经在平行宇宙方面的研究上成果斐然。他师承约翰·惠勒，与理查德·费曼和基普·索恩师出同门。数理宇宙的假说让他成为“当今最具原创力的科学家”。

这些年里，泰格马克将研究领域扩展到了人工智能。不少人会觉得诧异，一个物理学家，为什么要“开小差”，跑去研究人工智能？

泰格马克

一方面，MIT在人工智能领域积淀深厚。虽然人工智能在达特茅斯学院最先提出，但最初实现的却是麻省理工学院。另一方面，泰格马克的很多研究都是基于最新的计算机技术，他自己曾开发数据分析工具，用于宇宙微波背景的研究。过去几年一直与MIT的团队在AI研究领域耕耘，至今已经发表了5篇AI技术领域的论文，其中一篇是与杨立昆（深度学习领域三巨头之一）合作发表。

私下里，他更喜欢大家给他取的外号“疯狂迈克斯。”在科学家的外衣下，他有着一颗梦想家的心。用他的话说，“从我14岁知道了核军备竞赛以来，我一直担心我们的技术力量比我们控制它的智慧增长得更快。”这种担忧一直伴随着他的学术生涯，并让他不断行动起来。也正是这种浪漫主义，让他和伊隆·马斯克和斯蒂芬·霍金走到了一起。在他的第一本书《穿越平行宇宙》新书巡回之旅中，他决心要为这个世界做些什么。首先，要成立一家非盈利组织，专注于用技术管理来改善未来生命的境况。

未来生命研究所与它的成员们

接下来，泰格马克开始勾搭自己的朋友。在伦敦，泰格马克找到了Deepmind的创始人丹尼斯·哈萨比斯。两个人在聊了一圈AI领域的技术突破与变革后，泰格马克向哈萨比斯摊牌，包括自己在AI安全研究方面的想法以及未来生命研究所的计划。哈萨比斯赞同了泰格马克的想法，并将在研究方面给予支持和帮助。

而另一位朋友扬·塔里安（Skype创始人）就更实在了，当泰格马克向他承诺了未来生命研究所的愿景后，便决定每年拨给他10万美元的经费。在一年后的波多黎各大会上，塔里安半开玩笑的说：这是我做过的最好的一笔投资，这对我来说简直意味着整个世界。随后，一批来自高校的志愿者加入到了未来生命研究所中。

委员会中涵盖了AI领域研究者、企业家、科学家乃至哲学家。

详细介绍可参考https://futureoflife.org/team-chinese/

一方面，未来生命研究所通过资助全球各地的研究团队，保证AI安全领域研究的推进。另一方面，通过与世界顶级专家、企业家的定期会议与讨论，推动AI安全研究的社会共识。而未来生命研究所该机构的科学顾问委员堪称豪华，包括宇宙学家史蒂芬·霍金、SpaceX 和特斯拉汽车创始人伊隆·马斯克、牛津大学未来人类研究院主任尼克·博斯特伦、麻省理工数字商业主任埃里克·布林约尔松、哈佛大学遗传学教授乔治·丘奇、MIT物理学教授阿兰·古斯以及剑桥大学、加州伯克利等大学的人工智能方面的著名教授都参与其中。

“AI有益运动”——让AI安全性研究进入主流

2014年，未来生命研究所打响了自己的第一枪。泰格马克与斯图尔特·罗素、史蒂芬·霍金联合在赫芬顿邮报上发表的《超越我们对超级智能机器的自满》一文。表达了作者对迅速发展的AI潜在的风险与隐忧。

那篇经常被其他媒体曲解的“原版”文章：

https://www.huffingtonpost.com/stephen-hawking/artificial-intelligence_b_5174265.html

这篇文章引发媒体对AI安全报道的热潮，伊隆·马斯克、比尔·盖茨等科技领袖纷纷加入讨论，发表各自的观点。遗憾的是，很多媒体搞错了方向，发表《史蒂芬·霍金警告说，机器人的崛起对人类可能造成灾难性破坏》这种危言耸听的文章。

所以真正让AI安全性研究步入主流的，是2015年1月召开的波多黎各大会。也就是刚刚文章开头出现的那一幕，这场大会，几乎所有的参会者都对这个问题产生了共识。

这个时代最聪明的头脑集合在一起

在这场大会结束后一周，未来生命研究所便推出AI研究资助金申请通道。全世界大约有300个团队申请，在经过筛选后，37个团队开始了第一阶段的研究。

另外，一封著名的公开信也进入了公众视野。在这封名为《迈向强大和有益人工智能的优先考量研究方案》的公开信中，强调了“研究不应该只限于扩展AI的能力，而是也需要把AI对社会的效益发挥至最高点”，并为下一阶段的研究列出了优先考量的目标。这封公开信很快就收集了8000多个签名，其中包括许多享誉全球的AI开发者以及伊隆·马斯克和斯蒂芬·霍金等人。

也是在此时，媒体对“AI有益运动”报道产生了微妙的变化，再也没有终结者的照片。AI安全性研究终于不再是空谈，而是有许多实际有用的工作要做。并且，许多优秀的研究团队纷纷卷起袖子加入进来。

阿西洛马大会的合影，也是AI有益运动的“群英谱”，你可以在里面找到拉里·佩奇、埃里克•施密特这些企业家，吴恩达、丹米斯·哈萨比斯这样的技术专家，以及丹尼尔·卡尼曼这样的来自心理学、经济学、社会学方面的顶级专家。DeepMind、谷歌、Facebook、苹果、IBM、微软和百度等公司的代表悉数到场。

随后，在2017年阿西洛马大会上，“AI有益运动”被推向了第一个高潮。

AI有益运动的蓬勃发展

AI有益运动正在蓬勃发展。在企业界，亚马逊、DeepMind、Facebook、谷歌、IBM和微软发起了一个“有益AI”的行业伙伴关系。

而在学界，不断有AI安全领域的研究团队和机构获得捐赠，包括加州大学伯克利分校的机器智能研究所、牛津大学的人类未来研究所和剑桥大学的存在风险研究中心。还有一些别的“有益AI”项目也在不断启动，包括剑桥大学莱弗休姆智能未来中心、位于匹兹堡的高盖茨伦理与计算技术基金会以及位于迈阿密的人工智能伦理与管理基金会。AI安全性研究就此成型。

而在企业界，AI有益运动也产生了深远影响。马斯克投资上亿美元的非盈利研究机构OpenAI, 致力于用开放的方法研究通用AI，为人类带来福祉。

在政府层面，各国政府和IEEE（世界上最大的技术专家组织）都发表了长篇报告和建议，除此之外还有几十份报告和意见书。

泰格马克还动笔写起了一本书，这本书于近日出版，名为《生命3.0》（Life 3.0: Being Human in an Age of Artificial Intelligence）。因为写过像多重宇宙这类高度理论化的深奥概念，对于有根据但仍充满想象的观点，泰格马克可谓游刃有余。

《生命3.0》英文版一经出版迅速登顶美国亚马逊科技类图书排行榜榜首，受到伊隆·马斯克、斯蒂芬·霍金、雷·库兹韦尔等人的推荐。更为难得的是，这本书同时受到《科学》 《自然》两大权威学术期刊推荐。

作者泰格马克先以全景视角，展现了关于这一问题的讨论与争议，并探讨了近未来人工智能对法律、战争、就业和社会带来的影响。然而泰格马克的野心不止于此，他将目光投向了这场变更最为深远之处：人工智能是否能拥有意识？一万年之后我们能否与人工智能实现共生与繁荣？宇宙生命发展最终的物理极限法则为何？更为重要的是，我们如何在这场变革中迎来繁荣，同时又不会陷入危机，丧失生而为人的意义？

作者用生命3.0的概念传达了这一观点：人工智能将完成人类的最终进化。对于我们来说，又要以怎样的思考和行动来应对？

这本书将是你人工智能时代的思考利器，欢迎加入这个时代最重要的对话。

部分参考资料：

泰格马克的官方网站：http://space.mit.edu/home/tegmark/

未来生命研究所：https://futureoflife.org

泰格马克采访马斯克（视频）：https://www.youtube.com/watch?v=rBw0eoZTY-g