揭开AI、机器学习和深度学习的神秘面纱

深度学习、机器学习、人工智能——这些流行词皆代表了分析学的未来。在这篇文章中，我们将通过一些真实世界的案例来解释什么是机器学习和深度学习。在以后的文章中，我们将探索垂直用例。这样做的目的不是要把你变成一个数据科学家，而是让你更好地理解你可以用机器学习做什么。开发人员能越来越容易地使用机器学习，数据科学家时常与领域专家、架构师、开发人员和数据工程师一起工作，因此，详细了解机器学习的可能性对每个人来说都很重要。你的业务产生的每一条信息都有增加价值的潜力。这篇和以后的文章旨在激发你对自己数据的回顾，以发现新的机会。

什么是人工智能?

纵观人工智能的历史，其定义被不断重写。人工智能是一个概括性术语(这个概念始于50年代);机器学习是AI的子集，而深度学习又是机器学习的子集。

1985年，当我还是美国国家安全局的实习生时，人工智能也是一个非常热门的话题。在美国国家安全局，我甚至上了一节麻省理工关于人工智能专家系统的视频课程。专家系统在规则引擎中捕获专家的知识。规则引擎在金融和医疗保健等行业中有广泛的应用，最近更是用于事件处理，但是当数据发生变化时，规则的更新和维护会变得异常困难。机器学习的优势在于从数据中学习，并且可以提供数据驱动的概率预测。

在过去10年里，分析学发生了怎样的变化?

根据《哈佛商业评论》的托马斯•达文波特，分析技术过去十年里发生了翻天覆地的变化，跨商用服务器功能更强大、成本更低的分布式计算，流媒体分析、改进的机器学习技术，都使企业能够存储和分析更多的、不同类型的数据。

类似Apache Spark这样的技术使用迭代算法，通过在内存中跨迭代缓存数据并使用更轻量级的线程，进一步加速了分布式数据的并行处理。

图形处理单元(GPUs)加快了多核服务器的并行处理速度。GPU拥有一个由数千个更小、更高效的核心组成的大规模并行架构，这些核心专门设计用于同时处理多任务，而CPU由几个为顺序串行处理而优化的核心组成。就潜在的性能而言，从Cray -1进化到如今拥有大量GPU的集群，其性能提升大约是曾经世界上最快计算机的100万倍，而成本却只有其极小一部分。

什么是机器学习?

机器学习使用算法在数据中发现模式，然后使用一个能识别这些模式的模型对新的数据进行预测。

一般来说，机器学习可以分为三种类型：监督型、非监督型、介于两者之间。监督学习算法使用标记数据，而非监督学习算法在未标记数据中发现模式。半监督学习使用标记数据和未标记数据的混合。强化学习训练算法在反馈的基础上最大化奖励。

监督学习

监督算法使用标记数据，这些数据的输入和目标的结果或标签都会提供给算法。

监督学习也被称为预测建模或预测分析，因为你建立了一个能够做出预测的模型。预测建模的一些例子是分类和回归。分类根据已知项的已标记示例(例如，已知是否为欺诈的交易)来识别一个项属于哪个类别(例如，某交易是否为欺诈)。逻辑回归预测了一个概率——例如，欺诈的概率。线性回归预测一个数值——例如，欺诈的数量。

一些分类的例子包括：

• 信用卡欺诈检测(欺诈，不是欺诈)。
• 信用卡申请(良好信用，不良信用)。
• 垃圾邮件检测(垃圾邮件，不是垃圾邮件)。
• 文字情绪分析(快乐，不快乐)。
• 预测患者风险(高风险患者、低风险患者)。
• 恶性或非恶性肿瘤的分类。

逻辑回归(或其他算法)的一些例子包括：

• 根据历史汽车保险欺诈性索赔以及这些索赔的特征，例如索赔人的年龄、索赔金额、事故严重程度等，预测欺诈发生的概率。
• 给定患者特征，预测充血性心力衰竭的概率。

So线性回归的一些例子包括：

• 根据历史汽车保险欺诈性索赔以及这些索赔的特征，如索赔人的年龄、索赔金额、事故的严重程度等，预测欺诈金额。
• 根据历史房地产销售价格和房屋特征(如平方英尺，卧室数量，位置)，预测房子的价格。
• 根据历史上的社区犯罪统计，预测犯罪率。

这里还有其他的监督和非监督学习算法，我们不会一一介绍，但我们会详细介绍每类中的一个。

分类示例 ：借记卡诈骗

分类选用一组具有已知标签和预先确定特性的数据，并学习如何根据这些信息标记新数据。特性是你问的“是否”问题。标签就是这些问题的答案。

让我们看一个借记卡诈骗的示例。

我们想要预测什么?

• 某一笔借记卡交易是否为欺诈。
• 欺诈是标签(对或错)。

你可以用来进行预测的“ 是否 ”问题或属性是什么?

• 今天花费的金额是否大于历史平均水平?
• 今天的这些交易是否在多个国家?
• 今天的交易数量是否大于历史平均水平?
• 今天的新商户类型与过去三个月相比是否较高?
• 今天是否在多个带有风险类别代码的商家处购买?
• 今天是否有不寻常的签名与以往使用PIN相比?
• 与过去三个月相比，是否有新的购买行为?
• 与过去三个月相比，现在是否有国外购买?

要构建分类器模型，你需要提取对分类最有贡献的有用特性。

决策树

决策树创建一个基于输入特征预测类或标签的模型。它的工作原理在于评估每个节点上包含一个特征的问题，然后根据答案选择到下一个节点的分支。预测借记卡欺诈的可能决策树如下所示。特性问题是节点，答案“是”或“否”是树中到子节点的分支。(注意，真正的树会有更多的节点。)

问题一：24小时内的花费是否大于平均?

• 是

问题2：今天是否有多笔交易来自高风险的商家?

• 是欺诈概率 = 90%
• 非欺诈概率 = 50%

决策树很受欢迎，因为它们易于可视化和解释。将算法与集成方法相结合，可以提高模型的精度。一个集成例子是一个随机森林算法，它结合了决策树的多个随机子集。

无监督学习

无监督学习，有时也被称为描述分析，没有预先提供的标记数据。这些算法发现输入数据中的相似性或规律。无监督学习的一个例子是基于购买数据对相似的客户进行分组。

聚类

在聚类中，一个算法通过分析输入实例之间的相似性将它们分类。一些聚类用例包括:

• 搜索结果分组。
• 分组相似客户。
• 分组相似病人。
• 文本分类。
• 网络安全异常检测(发现不相似之处，集群中的异常值)。

K均值算法将数据分组到K个集群中，每个数据都属于离其集群中心均值最近的集群。

聚类的一个例子是，一个公司希望细分其客户，以便更好地定制产品和服务。客户可以依据比如人口统计和购买历史记录等特征被分组。为了得到更有价值的结果，无监督学习的聚类常常与有监督学习相结合。例如，在这个banking customer 360用例中，首先根据问卷答案对客户进行细分。接着对客户群体进行分析，并标上用户画像。然后，这些标签通过客户ID与账户类型和购买内容等特性进行链接。最后，我们在被标签的客户身上应用了监督机器学习，允许将调查用户画像与他们的银行行为联系起来，以提供深入的见解。

深度学习

深度学习用来称呼多层神经网络，它是由输入和输出之间的节点“隐含层”组成的网络。神经网络有许多变种，你可以在这个神经网络备忘单上了解更多。改进的算法、GPUs和大规模并行处理(MPP)使得具有数千层的神经网络成为可能。每个节点接受输入数据和一个权重，然后向下一层的节点输出一个置信值，直到到达输出层，计算出该置信值的误差。通过在一个叫做梯度下降的过程中进行反向传播，误差会再次通过网络发送回来，并调整权值来改进模型。这个过程重复了数千次，根据产生的误差调整模型的权值，直到误差不无法再减少为止。