从无人问津到广受盛誉——Hinton的传奇人生
Geoffrey Hinton花费了30年的时间一直在证明他自己的理论与价值所在,直到2012年,才真正用自己的理论将其他科学家的观点击败。我都知道现在的他广受盛誉,然而,这位神经网络之父也曾有不为人知的一面。
30年的起伏,Hinton从无到有
30多年来,Geoffrey Hinton一直徘徊在人工智能研究的边缘,但就是这样一个“局外人”一直着坚持一个简单的命题:计算机可以像人类一样思考,而且是使用直觉而不是规则。当他的一个朋友向他描述全息图是如何工作的时候,这个想法就已经扎根于青少年时期的Hinton。他也立刻就明白人类大脑也是这样工作的:我们大脑里的信息传播到一个巨大的细胞网络中,通过无尽的神经元图谱,发射和连接并沿着十亿条路径传输。这时候一个问题就在他的脑海中诞生了:计算机的行为方式是否也是一样的?
根据学术界的主流观点,这个答案无疑引起了轰动。他们表示,电脑只有通过规则和逻辑才能学得好。
50年代后期,康奈尔大学的一位名叫Frank Rosenblatt的科学家提出了世界上第一台神经网络机器。它被称为感知器,它有一个简单的目标 - 识别图像。给它一张“苹果”的图片,至少它会识别出这是苹果。感知机运行在一台IBM大型机上,有一堆纵横交错的银丝,看起来就像是有人把炉子过滤器的内胆粘在冰箱门上。这个装置还引发了一些严重的科幻夸张。 1958年,“纽约时报”发表了一个预测,认为这将是第一个像人脑一样思考的设备。感知器将能够走路、说话、看书、写作、自己复制,并意识到它自己的存在。”
然而感知器并没有走路或说话,这简直成了一个笑话。在大多数学术界,神经网络被视为是一种边缘追求。尽管如此, Hinton表示,“大脑必须以某种方式工作,而且肯定不会是有人编写程序的这种方式,我们就没有编程,但我们仍然有常识。”他相信神经网络的想法并不是错误的,主要问题是力量,当时的计算机无法通过数百万个连接所需的图像来寻找意义。已有的样本量太小了不足以支撑。
Hinton于1972年在爱丁堡大学攻读博士学位,并把神经网络作为为重点。甚至他自己的顾问每周都会告诉他,他现在做的事情正在浪费时间。神经网络确实也曾有一些小的成功,比如,在信用欺诈方面。
毕业后,他在匹兹堡卡内基梅隆大学找到了工作。但具有社会主义信仰的Hinton,对于里根领导的美国外交政策,特别是对中美洲的干涉方面,不能苟同。他和他的妻子,计划收养来自南美洲的孩子,他们不想让孩子在这样的环境下长大。此外,美国的大部分人工智能研究都是由国防部资助的,而且这个研究部门也不和Hinton的想法一致, 所以,Hinton接受了加拿大高等研究院(CIFAR)的邀请合作,也得到了学术自由和体面的薪水,Hinton在计算机科学专业接受了多伦多大学CIFAR相关的职位,并开始了CIFAR的机器与脑力学习计划,尽管他从未参加过计算机科学课程。他在圣乔治校区的桑福德弗莱明大楼里设立了一个小办公室,安静地开始工作。
随着时间的推移,一小撮深度学习的信徒深受他的喜爱,如 Ilya Sutskever--现在是OpenAI的联合创始人兼董事,Elon Musk的10亿美元的AI非盈利组织,在21世纪初成为Hinton实验室的一部分。他介绍了10多名在“AI冬天”期间进行研究的学生,这些人工智能研究领域的工作和资金都很稀缺,而且来自整个行业的匮乏。 Sutskever表示,“我们是外人,但我们也觉得我们有一种罕见的洞察力。”
在2009年前后,当计算机终于有能力挖掘庞大的数据库时,超级供电的神经网络在语音和图像识别方面开始胜过基于逻辑的人工智能。业界注意到,大科技公司 - 微软、Facebook、谷歌都开始投资。
2012年,该公司的绝密实验室Google X(现在只是X)宣布,它已经建立了一个包含16,000个计算机处理器的神经网络,并在YouTube上展开。谷歌公司谷歌大脑是该公司的深度学习人工智能分部,该部门的高级研究员杰夫·迪恩(Jeff Dean)领导,通过新的超级计算机为YouTube提供了数百万个随机的、未标记的视频帧,并对其进行了编程,以了解其所见。 YouTube是最重要的猫视频存储库,它识别了猫之类的东西。Dean表示,在训练的过程中并没有告诉它什么是猫,基本上是它自己创造了猫的概念。
这一突破推动了Hinton的发展,他成为AI运动的领袖。 Dean在2013年招募了Hinton加入Google。曾经被忽视的Hinton,突然间成为业界最重要的人物,从默默无闻的风格转变为闪亮的明星。
Hinton表示,“我之所以有很大的影响力,是因为我是少数相信这种做法的人之一,所有自发地相信这种做法的学生也都来了,并且和我一起工作。我必须从那些判断力很好的人那里挑选出来。”
神经网络的魅力
他说,如果必须为猫和狗分配一个性别,直觉来讲,人们可能会把狗看作是男性,把猫看作是女性。这种划分没有任何逻辑,但是,Hinton说,我们通过一千多个类比来理解,狗是积极的,多毛的,块状的;猫则狡猾,聪明,从这方面来讲,前者是男性,后者是女性是有道理的。这些都不能用逻辑来证明的,它是隐藏在我们的脑海中的。有一种吸引人的诗意表达,知识来自于生活,充满了累积的意义和经验,这就是神经网络的美丽之处。
他在与贾斯丁·特鲁多(Justin Trudeau)的合影中重申了这个基本概念。创新部长Navdeep Bains以及谷歌母公司Alphabet Inc.时任执行董事长埃里克·施密特(Eric Schmidt)以及今年秋季在多伦多举行的Google Go North技术大会期间的其他知名人士。每个人都坐在桌前,像热切的学生一样,只有站在欣欣向荣的观众面前的Hinton站在一旁。他从不坐下,因为脊椎里有一个凸起的圆盘,在19岁的时候为了给母亲移动一个沉重的加热器,而且在代谢预防骨质疏松症的钙方面也有遗传缺陷。随着时间的推移,问题变得更糟,所以在2005年,他几乎完全停止了坐。当然,这个解决方案对于任何人来说都不是一个理想的选择,更不用说每年都会被要求在全球无数的会议上发言或出现的知名教授。
科学世家的Hinton是如何成长的?
Hinton曾经说过,他长大的时候,母亲给了他两个选择:“做一个学者或者是一个失败者。”
Geoffrey Hinton出生于战后英国的温布尔登,他的父亲叫Howard Everest Hinton,是英国昆虫学家,喜欢研究甲壳虫。他的母亲Margaret是一位教师。而他们一家也都流淌着饱含聪明才智的DNA:他的叔叔是著名的经济学家Colin Clark,正是他发明了“国民生产总值”这个经济学术语;他的曾曾祖父是著名的逻辑学家George Boole,他发明的布尔代数(Boolean algebra)奠定了现代计算机科学的基础。
Hinton回忆起他的好奇心诞生的那一刻。他四岁的时候,和母亲一起乘公交车去乡下。公共汽车有一个向后倾斜的座位,朝向车架。杰夫从口袋里掏出一枚硬币,放在座位上,但它没有向后面滑动,而是滑向前方,就像是不受重力的影响。这个令人费解的现象刺激了Hinton的想象力长达10年之久。当他还是个十几岁的少年时,他就发现便士的运动与天鹅绒座椅套和公共汽车对倾斜的纤维的振动有关——这是一个非常令人满意的解决方案。
亲身经历 科技对于生活的重要性
Hinton在他的生活中花了很多时间在医院里。他很清楚的知道病人等待结果和收到模糊信息的感受如何。但是与大多数人不同的是,他也知道很快就会有技术可以在一天之内将原本需要等待一周的测试结果得出。
“我看到很多医疗专业人员使用数据的低效率。病人的历史中有更多的信息应该被放到适合的地方。我也看到医生真的无法很好地阅读CT扫描。如果两名放射科医师阅读同一份扫描图,他们会得到两个不同的读数。”
在三次不同的场合,医务人员通过CT扫描读数告诉妻子她有继发性肿瘤,但每次都是错误的。人工智能最终会让放射科医生失业,或者至少会消除影像阅读部分的工作。识别是AI的核心,也是成功的诊断和治疗。 Hinton认为,“最终,AI工程师将会弄清楚如何训练你的免疫系统来攻击癌细胞。”
由Hinton发起的Vector的第一个项目之一是将神经网络连接到多伦多医院提供的大量数据上。人工智能技术可以通过访问庞大的数据集(本质上就是病人档案)来实现众多突破,包括远程监视病人的心跳,以帮助医生确定理想的出院时机。多伦多的新创公司Deep Genomics是Vector的合作伙伴之一,正在开发能够读取DNA的AI,这将有助于及早发现疾病并确定最佳治疗方案。
经过几十年的缓慢步伐,深度学习正在迅速发展,但胰腺癌在其早期阶段是残酷的,很难诊断。但对于Hinton的妻子来说,恐怕是太晚了。
Vector公司拥有超过1亿美元的省和联邦资金,其中包括加拿大大型银行、加拿大航空、Telus和Google等30多个私营合作伙伴的8000万美元,是一家公私混合学术界、公共机构和行业。到目前为止,已有20位科学家被录用,他们已经在寻求世界上最大的一些问题的技术答案:AI如何被用来诊断儿童癌症和检测言语障碍?使用量子计算来如何加速分析人类每天产生的大量数据?
“我们是机器”
AI今天的狂热不仅仅是金钱,也因为AI融入日常生活的快速步伐。从翻盖手机到具有脸部识别功能的iPhone之间的距离不到10年,许多著名的科学家对这项技术的认识在我们的管理能力之前就已经提前冲刺了。
霍金、伊隆·马斯克和比尔·盖茨都警告过不受约束的人工智能的危险。“我担心AI可能会完全取代人,”霍金最近发表言论。 Hinton意识到了这是在道德上的暗示:他在联合国签署了一份请愿书,要求禁止致命的自主武器,也就是所谓的杀手机器人,并且由于担心潜在的安全性而拒绝在与通信安全机构相连的董事会中担任某一职位滥用AI。他认为,政府需要介入并制定法规,防止军方利用他一生完善的技术 - 具体来说,他表示,从发展杀死人的机器人开始。
然而,大部分时候,Hinton对AI的焦虑是乐观的。 “我认为这会让生活变得更容易。人们所说的潜在影响与技术本身无关,而与社会组织方式有关。作为一个社会主义者,我觉得当技术的出现提高了生产力时,每个人都应该分享这些收益。”
大多数人现在在生活中,无论是吃饭还是睡觉,几乎都在玩手机,就像是机器一样,Hinton说“我们是机器,我们只是以生物的方式存在。”