指导单位:中国信用体系建设促进工程办公室        主办单位:中国信息界杂志社        协办单位:中国信息协会信用专业委员会         支持单位:北京大学智慧城市研究中心   泰尔企业信用信息平台
移动应用市场暴恐应用检测系统

  近年来,“东伊运”不断密集发布暴恐音视频,并通过各种渠道流入境内,这些视频含有宣扬暴力恐怖、宗教极端、民族分裂等内容,煽动性极强,在新疆地区尤以手机传播为主。恐怖组织通过移动智能终端上的应用程序来达到扩展宣传力度、组织成员之间通讯、监视敌人等多方面目的。现阶段移动智能终端中广泛应用Android系统,基于Android的开放性、及缺乏严格的开发规范,导致应用质量得不到保证。目前应用商城针对Android上应用程序的功能测试,由于未知应用功能点的不可见性,只能采用手工测试。而随着应用数量的快速增长,纯手工测试已经不能满足测试需求,应用商城迫切需要一种针对未知应用的自动化验证工具。
本项目就是在这样的背景下,适应移动应用的流行趋势,设计出一套行之有效的暴恐应用自动化检测系统来对国内主流应用市场进行检测,达到遏制暴恐应用扩散的目标。本项目通过研究检测移动智能终端上的暴恐应用系统关键技术,为移动智能终端应用平台提供安全可靠的保障。从国内热门手机应用市场抓取各种应用并建立应用样本库,对Android平台图像视频内容实时获取,根据暴恐应用程序判别规则对应用进行暴恐内容进行检测,生成暴恐应用的检测报告。

(1) Android平台图像视频内容实时获取模块
为了更高效全方位检测所有视频类App其中所存在的问题视频,本系统突破了从Android系统底层获取App视频数据的技术难点,使系统后续的视频内容实时监测分析顺利进行。
Android平台图像视频内容实时获取模块的工作方式如下图所示

图1.Android平台图像视频内容实时获取模块的工作方式
模块实时监测操作系统底层解码器的运行状况,发现视频解码器开始工作,从系统底层获取视频数据帧,利用系统库对数据帧进行压缩,而后通过网络将压缩后的视频数据实时传输给敏感内容检测分析系统进行分析检测。
本模块技术实现方案如图所示

图2.Android平台图像视频内容实时获取方案
研究Android源码视频解码模块,定位并获取视频解码后、播放前的YUV数据,由于YUV数据过大,为了提高传输速度,在不影响检测的情况下,进行YUV数据下采样,并移植libjpeg库将数据压缩成图片;建立网络通信线程将压缩后的图像传送给敏感内容检测分析系统进行实时检测;视频开始前及播放结束均向控制平台发送标准信号,用来控制视频开始播放与结束。以上功能在Android源码中实现后,打包固化成定制ROM,在模拟器或者真机上部署。
(2)视频高速关键帧提取模块
视频数据具备数据量大以及数据结构非结构化的特点,直接对视频进行分析复杂度高,难度较大,且几乎不能保证网络实时性的要求。本模块通过分析现有视频编码/解码标准,实现了超高速关键帧提取算法。
 
图3.视频高速关键帧提取方案
在视频检索及敏感元素检测系统中,如果将所有视频文件全部解码将严重限制了检测系统的整体进度。因此,借助FFMPEG在视频流中精确定位I帧,然后针对I帧进行聚类分析,最终将聚类中心作为关键帧输出,不仅保证了视频内容的完整性和代表性,也大大提高了视频关键帧提取的速度。
(3)基于深度学习的敏感场景识别模块
利用深度学习模型对暴恐视频中常见的场景(蒙面人、枪支、恐怖旗帜和自焚)进行建模,提取暴恐场景中存在的高层特征。
(4)高通量视频分析模块
为了实现系统目标,系统的设计采用多层次并行方案:CPU和GPU粗粒度并行和GPU内部细粒度并行。CPU和GPU以流水线的方式并行,在CPU对图像视频数据做预处理的同时GPU对CPU上一次完成预处理的数据做计算并得出分类结果,这种流水并行方案提高了设备的利用率,增大了系统的吞吐量。此外,在GPU内部,采用细粒度并行方案,利用GPU强大的数据并行能力对待分类的数据进行计算,处理网络数据速度不小于1.0 Gbps。

该成果已在中共中央网络安全和信息化领导小组办公室进行了应用示范。在中共中央网络安全和信息化领导小组办公室的网络暴恐内容管控行动中发挥了重要作用,为维护健康网络环境、保障网络安全和国家安全提供了有力的技术支撑。

地址:北京市海淀区紫金数码园3号楼9层904   邮编:100190   电话:010-82893346   邮箱:smartcitycredit@smartcities.com.cn