依图开放AI芯片视觉计算创新平台,实现算法芯片对接「即插即用」
机器之心报道
机器之心编辑部
造芯,比以往任何时刻都更牵动人心。前有芯片技术被卡脖子多年,后有中美贸易下芯片产业链国有化势在必行。
但造芯远非一日之功,这背后所牵涉到的算法技术、设计能力、数据打磨、供应链支持繁杂而深远,往往是牵一发而动全身。于是,一个能够集聚产业链各方力量并实现资源优化配置的产业平台就成为关键。
五个月前,依图的首颗云端视觉 AI 芯片求索(QuestCore)落地,基于依图全球领先 AI 算法以提升视觉计算的智能密度,是依图在机器视觉定制化芯片综合技术的有力检验。
但是,在推进算法和芯片融合的过程中,依图的工作人员意识到一个核心问题,软硬件对接是 AI 芯片设计过程中的难题。
「做 AI 算法的人往往不懂芯片,因此当算法开发者想把算法移植到芯片上时,通常需要芯片或硬件厂家的驻厂培训;反之亦然,芯片厂家想针对某个新的算法做优化也需要专门的对接」。依图工作人员向机器之心表示。
过于冗长的对接和沟通桥梁,将导致开发导致周期较长,更可能耽误产品上新的最佳时期。
为了解决 AI 算法和芯片对接难的难题,依图基于自身经验,提出了建立视觉计算创新平台的概念。这个平台的初版在依图的智能芯片设计、计算机视觉单点技术研究,以及视觉智能产品规划等方面发挥了积极作用。
2019 年世界人工智能大会期间,国家科技部正式宣布将依托依图科技打造「视觉计算国家新一代人工智能开放创新平台」(以下简称「视觉计算平台」),助力中国芯片设计业和人工智能的结合。
10 月 30 日,依图正式启动「AI 芯片视觉计算创新平台开放计划」,开放从底层计算硬件、算法、数据库、应用层等一整套行业应用架构。它最大的特点是「分层解耦、开放融合」,产业各方都可以根据需求模块化使用,快速落地行业应用。
从芯片到平台,成为 AI 基础设施提供商和 AI 解决方案提供商——依图的产业定位更加清晰。
重在开放,巧用解耦
没有计算就没有智能,但 AIoT 时代多元的应用场景意味着多元的算力需求,领域专用芯片(Domain Specific Architecture)变得至关重要,典型代表就是谷歌的 TPU。
这是依图科技打造首颗云端视觉推理 AI 芯片「求索」的原因,也是面向行业再迈进一步,开放视觉计算创新平台的重要原因。
在行业应用整体架构看,依图的视觉计算平台主要分为 5 层,从下至上分别是:视觉计算硬件层、解析计算层、视图信息层、大规模特征索引层和业务应用层。
具体而言,在底层硬件层,依图提供芯片、模组、服务器(盒子)算力资源,如果开发者有自身的算法,依图还提供迁移工具到求索芯片,帮助算法开发者加速算法和芯片的对接过程。
在解析计算层,依图提供人像解析、人体解析、车辆识别、X 光机、视频结构化等领先的视觉算法。
在视图信息层,依图提供以图搜图、级联汇聚、数据存储和管理,支持行业视图库标准与分布式级联,解决超大规模结构化数据和突破读写问题,帮助商家快速开发部署。
大规模特征索引层是实现从感知智能到认知智能的关键一层,目前可支持 10 万路视频在 1 年内数据的秒级检索,进行各种关系的关联计算。它是行业大数据的视觉计算入口,开发者可以开发深度行业应用。
最上层是业务应用层,依图在智能城市有深度布局,已经积累下 110 个成熟行业应用,开发者可以直接使用,也可以在此基础上开发行业场景应用。
依图科技 COO 张小平总结道,这一视觉计算平台最大的特点在于「分层解耦、开放融合」。
所谓「分层解耦」,就是将平台算法层与硬件层、数据层、应用层各层之间都实现解耦,每一层都能通过接口对外提供能力,这种可插拔式的分层架构,让各方都能参与进来按需使用,大幅降低 AI 开发时间和门槛。
所谓「开放融合」,是指平台的开放性、包容性,第三方算法可以跑在依图芯片上,依图的算法也支持合作伙伴的芯片。开放能够实现算力、算法、产品的有效对接,促进创新,避免规模化造成的垄断。
在发布仪式上,依图还与伙伴共同发布了四大核心倡议,包括共同建立视觉计算软硬件协同开发标准,输出「即插即用」的智能模块开发套件,建立开源社区,以及联合高校和研究机构促进工业界和学术界双向互动。
缩短对接,加速创新
在 AIoT、智能城市的大浪潮下,算法厂商、芯片厂商、终端厂商都希望涌入这一庞大的市场,分一杯羹。
然而,在 AI 落地行业早期,仅仅是芯片与算法、技术与产品的对接就非常耗时耗力,可能导致产品开发周期较长,甚至错过产品最佳上市时期。
依图科技业务技术副总裁许源称,AI 芯片和算法对接,往往至少需要 1-2 个月,非常耗时耗力。依图希望通过视觉计算创新平台,将对接的周期降到 1-2 周甚至「即插即用」,大幅减少对接成本。
中移在线是中国移动的子公司,也是依图重要的合作伙伴。中移在线对外业务拓展中心副总经理高松介绍,2015 年在解决新入网用户的身份认证时,开启了与依图在人脸识别领域的探索,此后一直保持紧密合作,也是依图视觉计算平台的合作伙伴。
高松称,在人脸识别技术落地行业的过程中,最重要的问题是成本。大量的数据流向云端,需要大量的计算力做处理,最早 1 路摄像机的市场价高达 1~2 万,很难落地民用市场。而目前市场价已可以降到 5000 元以内。
这与依图在内的算法厂商与芯片厂商的努力有很大关系。以依图求索芯片为例,经实测结果表明,一台基于依图求索的 AI 服务器提供的算力与 8 张英伟达 P4 卡服务器相当,而体积不到 50%,功耗更是仅为后者的 20%,将数据中心整体运维成本降低了 80%,呈现出 AI 专用芯片在性能、功耗与成本上的优势。
他继续谈道,中国移动有非常多的业务,除了大家熟知的的 C 端业务、政企服务外,中国移动也在建设自身的平台。中移在线可以直接使用依图的算法,也可以灵活的整合其他家的算法,这也表现出依图平台的开放性。
依图科技业务技术副总裁许源也表示,依图不会把技术封闭起来,未来会对一些组件进行开源,也会用各种方法开放技术加速 AI 创新。