优酷土豆单明辉—基于Hadoop平台下的视频推荐系统

优酷土豆单明辉—基于Hadoop平台下的视频推荐系统

2008年于中科院声学所获博士学位,主导了优酷土豆视频推荐支撑平台设计与开发,目前负责低延时、高并发的大数据应用支撑平台建设。

从视频网站的分类来说,优酷土豆属于两者兼备的模式(用户产生内容+专业视频内容)。而这两种类型的网站内容和用户行为各异,相应的推荐系统的设计也会有一定差别。对此优酷土豆建立了自己的推荐系统,平衡二者的权重。并在此基础之上发现GPU产生类型。在未来也将在此基础上,进行新的拓展。

目前,优酷土豆视频推荐系统分可大致分为为两部分。第一部分,是底层的算法架构,主要做算法的研究工作。第二部分,是上层的支撑架构,即大数据的支撑平台。主要用于将海量视频信息,快速实时的推荐给用户,实现良好的用户体验。

和旧有的视频推荐系统相比,新的视频推荐系统,将数据和计算建立在Hadoop大数据平台之上,包括信息算法的小流量支持和各种业务的流量支持,等可以作为扩展在这个平台上得以实现。

现在,优酷土豆每天可以承受4-5亿次响应,每次响应在3-4毫秒左右。有了一个非常不错的成绩。

而在用户行为的收集上,视频行业一直都把它当作重中之重。对此,优酷土豆成立专项小组,对用户行为进行收集。在新的架构之上,包括之前没有办法收集的用户实时访问的视频数据,用户搜索行为、访问的页面,现在都可以实现实时采集,并引入到实时的算法当中去。同时,在数据的更新频率上,优酷土豆也将更新频率分为了三钟类型。用以实现更加快速实时的用户体验。

相关推荐