智通新观 | 知识图谱让深度学习更智慧
随着人工智能时代的到来,深度学习得到快速发展,基于表示学习和深度神经网络的机器学习方法获得了丰硕成果,并已经成功应用于语音识别、图像识别和机器翻译等。
但是有些时候深度学习模型的结果往往与人的先验知识或者专家知识相冲突,由于缺乏对深度学习的真正理解,深度学习模型大多数时候仍然是“黑盒子”,如何让深度学习模型的结果与先验知识一致已成为了当前深度学习领域的重要问题。知识图谱可以指导深度神经网络模型的学习从而提升模型的性能,让深度学习可解释性变为可能。
融合知识图谱与深度学习,已然成为进一步提升深度学习模型效果的重要思路之一。以知识图谱为代表的符号主义、以深度学习为代表的联结主义,日益脱离原先各自独立发展的轨道,走上协同并进的新道路。
知识图谱在深度学习模型中的应用:
知识图谱作为深度学习的输入
知识图谱是人工智能符号主义近期进展的典型代表。知识图谱中的实体、概念以及关系均采用了离散的、显式的符号化表示。而这些离散的符号化表示难以直接应用于基于连续数值表示的神经网络。为了让神经网络有效利用知识图谱中的符号化知识,研究人员提出了大量的知识图谱的表示学习方法。知识图谱的表示学习旨在习得知识图谱的组成元素(节点与边)的实值向量化表示。这些连续的向量化表示可以作为神经网络的输入,从而使得神经网络模型能够充分利用知识图谱中大量存在的先验知识。
向量化表示应用:
问答系统
自然语言问答是人机交互的重要形式。深度学习使得基于问答语料的生成式问答成为可能。然而目前大多数深度问答模型仍然难以利用大量的知识实现准确回答。在深度神经网络中,一个问题的语义往往被表示为一个向量。具有相似向量的问题被认为是具有相似语义。这是联结主义的典型方式。另一方面,知识图谱的知识表示是离散的,即知识与知识之间并没有一个渐变的关系。这是符号主义的典型方式。通过将知识图谱向量化,可以将问题与三元组进行匹配(也即计算其向量相似度),从而为某个特定问题找到来自知识库的最佳三元组匹配。
推荐系统
个性化推荐系统是互联网各大社交媒体和电商网站的重要智能服务之一。随着知识图谱的应用日益广泛,大量研究工作意识到知识图谱中的知识可以用来完善基于内容的推荐系统中对用户和项目的内容(特征)描述,从而提升推荐效果。另一方面,基于深度学习的推荐算法在推荐效果上日益优于基于协同过滤的传统推荐模型。
知识图谱作为深度学习的约束
某研究人员提出了一种将一阶谓词逻辑融合进深度神经网络的模型,并将其成功用于解决情感分类和命名实体识别等问题。逻辑规则是一种对高阶认知和结构化知识的灵活表示形式,也是一种典型的知识表示形式。将各类人们已积累的逻辑规则引入到深度神经网络中,利用人类意图和领域知识对神经网络模型进行引导具有十分重要的意义。
智通科技这些年深入开展知识图谱业务,拥有专业的行业知识图谱构建与应用的解决方案,并已实现在石油石化、军工、政府等行业的应用。智通科技时刻关注前沿科技,在知识图谱领域里,深度学习可解释性将是未来深度学习模型的重要领域,是具有巨大商业价值的研究课题。
智通科技将继续深耕知识图谱领域,加强知识图谱与深度学习的融合,钻研技术与创新,我们相信知识的沉淀和传承在铸就人类文明辉煌的同时,还将造就机器智能的全新高度