新手指南：大数据、区块链及其结合（附应用场景）
本文为你分析结合大数据和区块链的优势，介绍其实际应用，并分析区块链未来。
简介
在过去几年中，区块链已成为工业界技术发展最热门的领域之一。其原因显而易见。具有前瞻性思维的企业正在寻找无数方法，以使这项技术适用于各种实用案例和应用程序。然而，该技术大部分的发展都来自以下两个地方：资金雄厚的公司和加密初创公司。
这意味着最新的区块链技术对于中小型企业（SME）来说是遥不可及的。这导致了某些数字鸿沟的产生，而且鸿沟似乎每天都在扩大。但是，有一些区块链项目有望使中小企业的技术民主化。此外，这项技术甚至可以同样应用于大数据和分析的启动。
在这篇博客中，我们将探讨大数据和区块链的基础知识。此外，我们将分析结合大数据和区块链的优势。最后，我们将看看现实世界中的应用，并以对未来区块链的预测结尾。
大数据
通常，大数据是指海量且复杂的数据集。传统的数据处理软件无法在合理的时间内捕获和处理这些数据。
这些大数据集可能包括结构化，非结构化和半结构化的数据，每个数据都可以通过分析获得洞察力。
究竟有多少数据才能构成“大数据”还有待商榷。但它通常可以是pb（petabyte）的数倍——对于最大型的项目可能会到exabytes范围。
通常，大数据是三个维度的组合：
- 海量的数据量
- 多种的数据类型
- 需要处理和分析数据的速度
构成大数据存储的数据可以来自网站，社交媒体，桌面和移动应用程序等。大数据的概念是使组织能够将数据投入实际使用的成分。此外，大数据可以用于解决许多商业问题。这些问题包括支持大数据的IT基础设施，应用于大数据的分析，大数据项目所需的技术，相关技能，以及对大数据有意义的实际用例。
区块链
区块链是一项正在彻底改变互联网运作方式的技术。区块链技术的一些主要特点是：
- 该技术的工作原理是创建一系列数据记录，其中每个新记录都保存在一个块中，并具有指向前一个记录的链接。术语“区块链”源自这种连接数据块的系统。
- 区块链技术使分布式账户系统成为可能，使记录更加透明。
- 它使用加密技术来保护用户信息，并且分布式账户系统几乎不可能被黑。
- 区块链构成加密货币的主干，但也有其他几个应用。
- 区块链网络上的加密货币交换可以是中央的或网络的。
- 分散的加密货币交换几乎不可能被破解，因为有多个节点支持该系统。
- 区块链技术使得内容的点对点共享成为可能，而无需中间人平台。
- 无论你通过区块链网络分享什么内容，你都将保留对内容的所有权，除非你将其出售给其他人。
- 个人信息非常安全，并受私钥加密保护。
简而言之，区块链是一种可以让用户有机会安全地共享内容或进行交易，而无需中间人或中央管理系统的网络技术。
什么是块？
简单来说，作为区块链一部分，块是一个记录网络上任何类型事务的数据文件。数据永久保存在块上，成为链的一部分，且无法篡改。例如，如果你购买两个比特币，则交易可以用你的私钥在一个块中完成。私钥是你的数字签名，并将交易链接到你。在该日期你买了两个比特币的事件现在会永远记录在一个块中。
如果你想用一个比特币买东西，你需要提供你的私钥。比特币矿工将使用你的密钥跟踪你的最后一笔交易，并可以验证你有两个比特币。当你使用一个比特币时，该交易将保存在一个新块中，并通过一系列字符链接到你的上一个交易。这样，你的所有交易都将在网络上进行审核。
什么是哈希表？
区块链如此受欢迎的原因之一是，尽管它上面的信息虽然是分布式的，但却是高度加密的。区块链上的数据通过创建哈希表进行加密。需要一种算法来创建散列，它通过获取事务信息并将其转换为一系列数字和字母来运作。哈希表总是具有相同的长度。
从表面上看，哈希表对任何人都没有意义。这是矿工的用处所在。矿工拥有特殊的技能和资源来破译哈希表并验证交易。矿工通过在每次提供服务时生成的比特币来获得报酬。
什么是节点？
区块链和加密货币已成为去中心化的同义词。权力下放构成了整个系统透明度和安全性的基础。但是，即使是分散的系统也需要一个支持系统来赋予它某种形式和结构。这个支持系统以节点的形式出现。
节点是遍布区块链网络的活动中心。只有在节点处才可以使用区块链副本、处理事务和记录。节点由通过自己的设备连接到系统的个体组成。每种加密货币都有自己的一组节点来跟踪其货币。
为何选择区块链？
区块链的优势在于它是分散的，没有任何一个人或公司控制数据的输入或其完整性。然而，区块链的这一神圣性是通过网络上的每台计算机的不断检测而实现的。由于所有点都持有相同的信息，因此点“A”处的损坏数据不能成为链的一部分，因为它与点“B”和“C”处的等效数据不匹配。
综上所述，区块链是不可变的——只要网络存在，信息就会保持相同的状态。
为什么要将大数据与区块链结合起来？
1. 安全
区块链不是将数据上传到云服务器或将其存储在单个位置，而是将所有内容分成小块，并将它们分布到整个计算机网络中。它有效地排除了中间人。没有必要使用第三方来处理交易。当你可以依赖分散的、不可变的帐户时，你不必信任供应商或服务提供商。此外，区块链上发生的所有事情都是加密的，并且可以证明数据没有被更改。由于其分布式特性，你可以检查网络中所有节点上的所有账户的文件签名，并验证它们是否未更改
2. 数据质量
区块链提供卓越的数据安全性和数据质量，因此正在改变人们处理大数据的方式。这可能非常有用，因为安全性仍然是物联网（IoT）生态系统的主要关注点。物联网系统将各种设备和大量数据暴露给安全漏洞。区块链具有阻止黑客和为从银行业、医疗保健到智能城市等许多领域提供安全性的巨大潜力。
3. 隐私
这是区块链与当今常见的传统技术模式区别开来的主要方式之一。区块链不需要网络层本身的任何标识。这意味着下载和使用该技术不需要姓名，电子邮件，地址或任何其他信息。缺乏对个人信息的严格要求意味着没有中央服务器存储用户信息，使得区块链技术比可以被破坏而使其用户的敏感数据处于危险之中的中央服务器更安全。
4. 透明度
区块链技术最吸引人的方面之一是它可以提供的隐私程度。然而，这导致了一些关于隐私和透明度如何能够有效共存的困惑。区块链的透明度源于每个公共地址的持有和交易都可以查看的事实。使用具有用户公共地址的资源管理器，可以查看其资产及其交易。这种透明度在以前的金融系统中并不存在，特别是在大型企业方面，并且增加了迄今为止尚未存在的一定程度的问责制。
5. 自动化
如今，业务流程的趋势无可否认地正在从缓慢的手动方法转向更高的自动化和集中化。自动化流程有很多好处，仅举几例来说：更快地完成任务，提高可见性，标准化输出，减少错误并降低成本。虽然自动化已经做了在帮助公司提高效率和生产力方面提供了很大帮助，但未来可预见还会有进一步的变化。特别是，区块链工作流程的自动化可以帮助那些严重依赖交易和基于文档的流程的组织在数字化转型中迈出下一步。
应用
1. 反洗钱
区块链技术及其账户可提高监管机构的透明度，改善报告流程。此外，共享和不可变的账户保证了未更改的事务历史记录。此外，账户可以作为数据存储的中心枢纽来处理交易。它可以与金融服务公司和监管机构内的风险管理人员一起开展活动。
在分布式网络中，利用基于加密的身份管理技术可以实现身份管理的改进。此外，数字身份改进可以帮助金融机构满足不断变化的KYC和CDD要求。此外，这可以同时降低与实施强大的KYC项目相关的成本。最终，从长远来看，可以减少金融犯罪和违规行为。
2. 网络安全
区块链技术存在于我们生活的各个领域，不仅仅是银行和医疗保健等领域。此外，网络安全是一项通过这项技术可以获得很多收益的行业，未来会有更多的发展空间。此外，通过从数据存储中删除大部分人为因素，区块链显著降低了人为错误的风险，而人为错误是造成数据泄露的最大原因。这项技术之所以如此受欢迎，是因为你可以把任何数字资产或交易放入区块链，业界并不重要。此外，区块链技术可以防止任何类型的数据泄露，身份盗窃，网络攻击或交易中的犯规。因此，数据保持私密性和安全性。
3. 供应链监控
毕马威会计师事务所的这份报告展示了区块链在大数据供应链解决方案中应用的可能性。除了区块链，还有一个移动应用程序监控交易物在运输过程中的状态。报告称，所有各方都可以获得“近乎实时”的数据。其中的好处包括核实产品标签声明和产品来源。最重要的是实现在公平工资等方面保障人权的可能性。
4. 金融AI系统
在金融交易方面，区块链正在以一种主要方式飞速发展，并将成为货币交易的一个重要方面。还有许多其他创新方法，其中大数据和区块链可以同步以在金融服务行业中提供强大的产品。通过区块链实现，审计可以以一种非常彻底的方式进行增强。此外，安永会计师事务所报告指出，“现在是进行试验的时候了。”
5. 汽车AI系统
汽车工业正进入一个全新的存在阶段，通过掌握大量传感器和通信技术，使汽车现在更加共享化和自动驾驶化。随着汽车自动化，使用区块链的可用选择范围始于车辆数据的完全标准化，构成了100％的信息汽车市场。
6. 病历
这是一个记录至关重要且始终需要保存和审查的区域。当为这个面向数据的部门提供动力的大数据系统通过区块链系统时，所有记录都保留了清晰的跟踪记录，而对记录进行的所有迁移和解释都是以透明的方式维护的。此外，对于在系统中研究人员可以在总体水平上为挖掘数据做出贡献的话题也已在讨论中。谷歌也正在开发区块链系统，以确保健康记录的安全性。
总结
区块链技术只是未来发展自动化和业务流程管理的方法之一。虽然区块链仍处于技术生命周期的早期阶段，但通过更广泛的公众采用的持续压力测试只会通过改进已经运行的构建块来使生态系统更加健壮。毫无疑问，区块链对于数据科学来说很有前景。但事实是，我们没有很多工业规模的区块链技术系统。此外，对于数据科学家来说，这意味着使用区块链技术挖掘数据宝藏仍然需要一段时间。
原文标题：
A Beginner’s Guide to Big Data and Blockchain
原文链接：
https://www.codementor.io/divyacyclitics15/a-beginner-s-guide-to-big-data-and-blockchain-t891dt5xe编辑：黄继彦
校对：林亦霖
译者简介
李洁，香港科技大学电信学硕士毕业生，现任北京师范大学香港浸会大学联合学院 数据科学系助教。喜欢数据科学，喜欢阅读，喜欢研究代码和做手工。希望一直保持学习的状态和对生活的热爱，每天都快乐而有进步~
— 完 —
关注清华-青岛数据科学研究院官方微信公众平台“THU数据派”及姊妹号“数据派THU”获取更多讲座福利及优质内容。