地平线:边缘计算助力“AI民主化”进程 (上)
5G、AI、边缘计算……这些已成为当下的 “爆款” 话题。在未来的行业发展中,我们如何寻求科技可持续发展的解决方案?
地平线的联合创始人兼副总裁——黄畅博士在2019年亚洲消费电子展主题演讲的舞台上,分享并深度解读了边缘AI计算的发展趋势以及地平线在该领域寻求AI解决方案最优解所作出的努力。
AI民主化过程将面临的挑战
黄畅博士在演讲中首先提到了Gartner曲线(Gartner Hype Cycle)。Gartner是一家著名的咨询和智库公司,每年都会发布一条围绕技术发展趋势的曲线。这条形似黄河的几字型曲线标志着一项技术从诞生、高速发展、遇到瓶颈并下沉,再到技术应用进入成熟阶段、稳步增长的一个趋势。
2011年,这条曲线上首度出现了AI的应用——语音识别。自此以后,每年的Gartner曲线上都会出现越来越多跟AI相关的技术和应用。
从去年八月发布最新的一条Gartner曲线上可以看到,AI相关的应用数量空前,当中包括AI pass服务、边缘AI自动驾驶、AI机器人、深度神经网络等。Gartner在其执行报告中首次提出“人工智能的民主化”的概念。换言之,AI这项技术将进入一个普惠大众、在各行业各领域创造价值的阶段。而在AI民主化的过程中,所要面临的最艰巨的一项挑战将是 “数据指数级的爆炸增长” 。
黄畅表示,围绕这些数据处理的计算量的增长更为夸张。以2017年为例,全球范围内产生的数据大约是 5 PB。到2025年,预估产生数据 40 PB。与前者相比,增长接近8倍。在这些数据中,95%产生于IoT(物联网)端,而绝大部分又是非结构化的数据,即语音、图像这类较为原始的数据。要挖掘其使用价值,这类数据必须经过结构化后才能进行有效处理。结构化的过程需要耗费大量的计算,不仅数据量暴增,而且基于数据处理难度所需的计算量也大增。总数据量当中的25%是实时数据,需要进行迅速处理。例如,跟自动驾驶和实时交通相关的数据,都必须以近秒甚至毫秒级别进行处理。与现今数据主要用于商业分析不同的是,2025年将近20%的数据将与生存安危密切相关。
边缘计算破解AI物联网核心难题
5G通讯已经进入部署阶段。相对4G和3G而言,5G以数量级的方式极大限度提升了传输的带宽,将延迟降低到了毫秒级别,但是这种技术并不能有效改造现有的互联网主干网。由此造成 “数据堰塞湖” 的现象。每个5G基站能够覆盖方圆几百米的范围,在此范围内的移动端数据能以极高的数据带宽、极低的延迟接入,但并不能有效地通过主干网被高速传回云端处理。黄畅表示,解决办法是在边缘侧对数据进行高效的处理,从而充分提高5G技术的价值。
自动驾驶是边缘计算的一个典型场景。黄畅举例说,一辆行驶中的车辆,如果车身部署超过10个摄像头、高速抓拍周围的环境,同时配备激光雷达、毫米波雷达和各种传感器,还有车内驾驶员和车身的运行数据,它每天所产生的数据量是 600 TB。而该车辆所产生的数据需要得到实时处理并指导车辆的运行。假如每天有2000辆自动驾驶车辆在运行,所产生的数据量是250万兆个Bytes,相当于2015年全世界产生的数据量,如此庞大的数据量是云端计算不能解决的难题,因此边缘计算势在必行。
边缘计算的五大特点
1. 可靠性高:边缘计算能够在离线的状态下正常运作,不需要接入云端。在边缘侧,即车内即可完成运算和处理。
2. 安全合规、满足隐私要求:数据不需要被传回云端处理,在边缘侧即可完成数据处理和脱敏,只需把对于进一步认知分析有意义的数据传回云端, 因此这个过程高度可控。
3. 实时计算、减少反应延迟:对于自动驾驶应用来说是必须的。
4. 部署灵活、高效协同:通过车路协同(V2X)模式进一步确保自动驾驶系统更安全高效地运作。边缘计算不仅在车内也在路边进行。未来,在交通标识牌、红绿灯和每个5G基站旁边都会有边缘计算的节点。
5. 降低数据的传输和储存成本:数据从边缘侧到云端的传输过程所消耗的能量和成本相当高。
端边云协同,寻找AI解决方案的最优解
黄畅从三个不同的维度展开分析云端和边计算的特点:计算架构是通用还是专用?计算力是高还是低?实时性是高还是低?
传统的云计算是最通用的,因为云在所有的计算中的时空范畴最大。在云端服务器上很难预判所部署的应用场景。它随时可以被重新部署加载。所对接的可能是在地球另一端发生的一件事情或采集到一个的数据。云需要最通用的计算架构,因为它要处理的任务多样性最强,对计算力的要求最高。大量的模型训练和认知分析使其成为一种资源消耗型的操作。同时,网络架构导致云计算的实时性相当差,这种秒级别的反应延迟是它最大的局限性。
端侧的运算,尤其是嵌入式设备的计算。任何一个嵌入式设备都处在一个特定的应用场景中。它不像云一样面对多样化的应用场景。在端侧上,一旦部署,它所关注的是一个ROI(感兴趣区域),一个特定场景中的一个任务,使它具备专用性。端侧的计算架构非常专用,优点在于可以专门设计计算架构和算法,使得整体效率非常高。相对云计算,端侧计算专用性强,使其比云计算效率更高。它关注的不是训练而是推理。
处于云和端之间的边缘计算是一个新“物种”。黄畅举了一个显浅的例子:如果把云放在上面,是一个大的节点,端在下面像一颗树一样,有很多叶子节点,像神经末梢一样时刻深入到我们生活的每个角落。边缘计算则像我们的脊椎,连接着大脑(云)和神经末梢(端)。边缘计算兼备云和端的计算特点,它的计算能力不足于云却远胜于端。同时,它对功耗的容忍程度比端高得多,成本也更高。相比云计算,边缘计算的延迟低,非常接近端上的延迟,尤其当5G技术被广泛采用后更甚。因此,边缘计算产生了一种新的可能,它同时具备云和端的计算优势。
在未来,端上产生指数级的爆炸数据而又未能被送到云上时,边缘计算则成为端上收集数据的一个过滤器和控制阀。这个新的变量将带来商业范式的转移以及整个云端的计算架构,从软件到硬件彻底的、全新的革命。
想了解更多边缘AI计算的发展趋势及其应用将如何改变我们的未来,请关注下周四推出的2019年亚洲消费电子展主题演讲系列回顾之《边缘计算助力“AI民主化”进程 (下)》。第六届亚洲消费电子展将于2020年6月10-12日回归上海,敬请期待。
点击链接,阅读更多2019年亚洲消费电子展主题演讲系列回顾文章。
《全场景智慧化,华为迎接产业历史性机遇》
《现代汽车:创新出行方式引领行业未来变革》