从5种免费资源出发 研析深度学习和NLP的交叉点!
这是一个关于深度学习的集合,旨在为NLP和深度学习的交叉点打开眼界,了解可能的情况以及当前的状态,当然 ,它也会提供一些关于下一步去哪里的想法。
可能很多人都会有兴趣将深度学习应用于自然语言处理,但又不知道从何开始。今天的这5种资源是为外行人准备的集合,可能会对你有一些用处。
1.为NLP而生的深度学习(http://lxmls.it.pt/2014/socher-lxmls.pdf)
这是斯坦福大学的Richard Socher和MetaMind最初在里斯本机器学习暑期学校授予的一组幻灯片。你会发现它是一个很好的关于NLP和深度学习的入门书。
2.深度学习应用于NLP
这是Marc Moreno Lopez和Jugal Kalita的一份调查报告。以下是摘要:
卷积神经网络(CNN)通常与计算机视觉相关联。 CNN负责图像分类的重大突破,这是当今大多数计算机视觉系统的核心。最近CNN已被应用于自然语言处理中的问题,并得到了一些有趣的结果。在本文中,我们将尝试解释CNN的基础知识、它的不同变体以及它们如何应用于NLP。
这是一个比下面的文章更简洁的调查,而且做的很好,仅仅是1/5的长度。
3.自然语言处理的神经网络模型入门(http://u.cs.biu.ac.il/~yogo/nnlp.pdf)
Yoav Goldberg全面概述。摘要:
本教程从自然语言处理研究的角度对神经网络模型进行了研究,试图使自然语言研究人员加速使用神经技术。本教程涵盖自然语言任务、前馈网络、卷积网络、递归网络和递归网络的输入编码,以及用于自动梯度计算的计算图抽象。
除此之外,您可能还想阅读Yoav最近发布的一组博客文章,尽管该文章讨论了同样的主题,但是是从另一个角度来看。
·“对抗性自然语言生成”的对抗性回顾
·对《纳特朗的对抗性学习》进行了“对抗性审查”
·对YannLeCunâ响应的回应
不管你的职位是什么(你是否应该有一个“职位”),这句话的价值绝对堪比黄金:
“我反对的是“深度学习社区”进入一个领域的趋势(包括NLP),他们对此只有非常肤浅的理解,并且在不花时间去了解问题领域的情况下,做出宽泛而未经证实的声明。”
4.用深度学习进行自然语言处理(斯坦福大学)(http://web.stanford.edu/class/cs224n/)
这是Chris Manning&Richard Socher任教的最受欢迎和备受推崇的NLP课程之一。
该课程全面介绍了应用于NLP的深度学习的尖端研究。在模型方面,我们将介绍词向量表示,基于窗口的神经网络、递归神经网络、长期短期记忆模型、递归神经网络、卷积神经网络以及一些涉及存储器组件的最新模型。
如果您有兴趣直接跳到演讲视频,请关注(https://www.youtube.com/playlist?list=PL3FW7Lu3i5Jsnh1rnUwq_TcylNr7EkRe6)
5.自然语言处理的深度学习(牛津)(https://www.cs.ox.ac.uk/teaching/courses/2016-2017/dl/)
这是来自顶尖大学的优秀的课件资源,由PhilBrensom在牛津大学教授的。
这是关于自然语言处理的高级课程。自动处理自然语言输入和生成语言输出是人工智能的关键组成部分。人类交流中固有的含糊和噪音使传统的符号AI技术无法用于表示和分析语言数据。最近,基于神经网络的统计技术在自然语言处理方面取得了许多显著成就,引起了该领域的大量商业和学术兴趣。
您可以直接通过此链接访问课程材料Github存储库。(https://github.com/oxford-cs-deepnlp-2017/lectures)