吴恩达导师Michael I. Jordan刚去清华讲了三天课,这有一份笔记
作者:魏子敏,龙牧雪,朱星宇,唱歌的蔬菜,Jenny
被称为“机器学习之父”的Michael I. Jordan教授上周(9月12-14日)在清华进行了为期三天的校内公开课,面对清华同学分享了他在伯克利AMP Lab和RISE Lab的最新研究成果。
Jordan教授本次亲自上阵授课实属难得,为保证教学质量,本次系列课程也只面向清华学生开放,且不设录像直播,颇为珍贵。据大数据文摘了解,Jordan教授授课风格颇传统,全程抛弃多媒体设备,手写版书公式。本次讲座内容由机器学习方法和系统组成,主要涉及概率图模型、统计推断和模型评判,以及大规模机器学习的分布式优化算法和计算框架,为清华学生分享了大量干货。
Michael I. Jordan教授课堂风格
大数据文摘联合清华数据派(ID:datapi)收集到了现场珍贵的干货笔记,后台回复关键词“MJ”,下载Michael本次系列讲座笔记完整版。
据了解,这是Jordan教授第一次以杰出访问教授的身份到清华开设课程,之后两年的秋季学期,Jordan教授都会回到清华进行授课,并挂靠软件学院开展各项具体工作,指导大数据系统软件国家工程实验室各个研究组的工作。想要聆听大神课程的同学,现在报考清华还不晚,文摘菌只能帮你到这里了。
周日晚,Michael教授还为清华2017级新生进行了一次面对面的答疑,详细回答了现场听众从机器学习发展瓶颈,到学术发展建议等十多个问题。座谈会主办方是清华大学软件学院,现场出席嘉宾有:软件学院院长王建民,交叉信息研究院助理院长徐葳。软件学院龙明盛老师担任主持。大数据文摘有幸到场聆听了本次座谈会,并独家对话了Jordan教授关于机器学习在业内的发展情况。
现场同学对人工智能非常好奇,Jordan教授为此做了耐心解读。
关于“人工智能有情商吗”?他的解读是,机器人不需要产生感情,因为有感情的人类已经够多了,它们要去做一些人类做不了的事情,例如海量数据分析。当然我们可以让机器理解一些预设的规则,用技术手段去协助视力或听觉受损的人实现便捷的交互。
而当被问及“人工智能是怎么学习的”?Jordan教授回答说,电脑不像人类一样用抽象概念学习不同领域的知识,电脑运用的是数学手段。电脑可以学习并运用不同领域的知识,但是领域间不能差异太大。智能翻译和推荐系统就是很好的例子,都是通过类比相似数据得出结果。
也有同学对于Geoffrey Hinton近日提出的对反向传播的质疑颇感兴趣。
反向传播算法(Back Propagation)是一种适用于含有隐含层的神经网络进行权重调整的梯度推算算法,但是事实上这种算法并非人脑工作机制。近日,发明反向传播算法的Hinton提出这种“不自然”的算法可能是让机器学习不能达到真正智能的原因,并且应该尝试抛弃BP另起炉灶,这种想法也得到了李飞飞等人的支持。
对于这种重新开始的趋势,Jordan教授有另一种的看法:我们对人脑的了解有限,因此无法得到一种模仿人脑神经元的算法;反观“不自然”的BP算法,神经网络在使用BP算法之后的确有了非常好的发展,更何况经过多年尝试,得到神经网络训练中需要的隐含层梯度的方法中,BP是独一无二的。这种高效的人脑无法实现的功能在Jordan看来是一个优势,应该被保留。
当被问及机器学习在工业界的应用时,Jordan教授介绍说其实很多行业都有惊人数量的机器学习应用,比如亚马逊的反欺诈系统和供应链管理。
“常规的信用卡欺诈率是3%,也就是所有交易量的3%存在被盗风险。当亚马逊开始做电商的时候,每天有1千万美元的交易量。如果其中3%是欺诈的话, 那欺诈的量就非常大了。于是亚马逊将交易分类标注为“欺诈”或“非欺诈”。从而在过去20年将系统欺诈率控制在0.01%以内。在此基础上,亚马逊开始快速发展。”
“我在美国要买一台冰箱,一周内能送到。这就要求冰箱不能在我下单的时候才从印度装船,对吧?需要考虑要怎么样才能保证5个月前冰箱会被造出来然后装船,并被送到正确的地址和正确的人手里。这事儿没有看起来那么简单。假如印度洋上遇上了台风,船只不能运作了,怎么办?人类无法做这些规划,但统计机器学习可以,你可以用算法以及所有的数据,看所有信息包括船只建造材料等等,来做出预测。就这样,上亿人都可以买到他们想要的货物。阿里巴巴也在做这件事情。”
“滴滴和优步,这些公司都是基于机器学习的:预测正确的车辆怎样在正确的时间到达正确的地点,以及其相应的价格。”
他表示,除了电子商务以及互联网、金融行业,机器学习未来在各个行业都会应用,比如娱乐业甚至农业,因为许多公司积累了大量的数据。
最后,Jordan教授面向全体大一新生,谈到了如果想未来从事机器学习,应该掌握哪些领域的知识。
他说,人类一直在创造新的知识领域,所以保持一直在学习的状态非常重要。
”我一直在读书,读各种各样我不了解的领域的书。而且就算在数据科学和机器学习领域,我要学的还有很多很多。”
“计算机科学、统计学和最优化方法。为了应对现实世界的不确定性,你们还需要了解一点经济学、运筹学。我也建议你们学习人文学科:艺术、文化、历史、社会科学……大学只有四年,之后你们可能还会读硕士博士,但是那之后呢?”
Jordan教授建议学生们利用好自己的老师,主动寻求老师的建议。他鼓励同学们不要全部选“别人都在选”的课,不要和十年前的学生一样,而是要有自己的风格。
他鼓励同学们说,“如果你们只选计算机系的课的话,我不会要你们来读我的博士的。尽管去学物理或者法语吧,这代表你对知识的好奇。做你们自己,开创你们自己的道路。”
Michael I. Jordan教授现执教于加州大学伯克利分校,任电气工程与计算机科学系和统计系杰出教授,实时智能决策计算平台实验室(RISELab)共同主任、统计人工智能实验室(SAIL)主任、统计系系主任。Jordan教授长期引领着机器学习、统计学的理论、方法与系统研究,是贝叶斯网络、概率图模型、层次随机过程等多个重要方向的主要奠基者之一,也是统计学与机器学习交叉融合的主要推动者之一。Jordan教授是美国科学院、美国工程院、美国艺术与科学院三院院士,是机器学习领域唯一一位获此成就的科学家。吴恩达等都是他的学生。
后台回复关键词“MJ”,下载Michael最新讲座笔记完整版。