基于GPU机群的视频大数据流处理系统

项目单位

上海理工大学

技术成熟度: (1) 2010年获得上海科委验收; (2) 该系统已经用于3G视频的质量分析。该集群由2个功能集群构成:6台高性能计算机构成I/O任务密集型CPU集群,6台流处理器(GPU)机器构成计算密集型GPU集群,所有节点用MPI通信协议互联。GPU采用NVIDIA GTX480。该并行集群可以对5000个~7000个3G视频流进行视频质量分析,运用CPU集群可以把3G视频流H.264参数提取,然后GPU集群对5000~7000个视频参数进行计算(图像还原成YUV、模糊度、块效应、平滑度分析)。该并行处理环境已经满足电信对3G视频的分析规模的要求和性能的要求。主要性能指标:(1)5000个352x288 (CIF)视频,5秒内分析完成;(2)6000个 320x240 (QVGA)视频, 5秒内分析完成;(3)7000个176x144(QCIF)视频,0.5秒内完成。用若干个这样的集群单元,可以构建对数万3G视频电话的处理,该系统具备线性的可扩展性,适合大规模并行处理的需要。经上海科学技术情报研究所查新得知,该系统达到世界先进水平(基于流处理器并行环境的3G网络视频质量监测系统, 编号20110800SH,上海科学技术情报研究所,2011.6.13)。

适用推广的地区: 无限制。

关键字 :

对合作单位的基本要求:

0人咨询过本成果

分享

项目联系人

成果概况

利用多个GPU构成的并行计算环境,实现对上万个数据流的实时处理问题。主要核心技术: 构建了基于MPI的并行通信系统,该系统由动态缓冲池、动态管道、MPI三者融合实现了大规模数据流处理所需的通信问题; 利用多级聚类,实现多数据流的并行处理,充分发挥了GPU的大规模处理能力; 利用NVIDIA CUDA开发工具实现了H264的视频解码、平滑度、分析、模糊度分析。

专利情况

1.陈庆奎,庄松林,丁晓东.并行简单对象存取协议的通信系统及其通信方法.国家发明专利 ,2012授权; 2. 陈庆奎,那丽春,王海峰,面向流处理器并行环境的数据流通信系统及其通信方法, 国家发明专利,专利号201110135776.0(2013.9.25授权); 3.陈庆奎,那丽春,王海峰,刘伯成,大规模并发数据流处理系统及其处 4.基于块效应和模糊度的YUV视频质量评价软件,版本号 V1.0 , 分类号 30107-8900,2011.5; 5.基于流处理器并行环境的3G视频质量分析系统,版本号 V 1.0 ,软件简称 3GVQAS, 分类号 30200-8900,2011.5; 6.流处理器集群主控及并行通信系统,版本号 V1.0 ,软件简称 ,CCSSCC 分类号30206-8300,2011.5。

市场前景与领域运用

大规模物联网数据的实时处理; 大规模视频监控系统。

技术创新点

(1)构建了基于MPI的并行通信系统; (2)通过多级聚类机制实现了并行处理。
咨询申请

你要咨询的问题:(20-400字)