据IDG公司称,59%的企业表示“大数据倡议”将成为未来一个高级或关键首选措施。视频大数据的使用有可能与云基础架构的形成相结合,这在2012年已经取得了一些成功。预测机构表示,分析技术及大数据视频元数据的使用和整合将继续增加,着眼于利用大数据的企业将越来越多地将视频元数据流纳入其数据集中。
大数据时代来临
得益于IT信息技术的快速进步,人类可以随时随地记录下产生的各类数据,而同时数据存储的成本也正以前所未有的速度下降,一个大数据的时代在悄然来临。根据IDC预测,全球在2010年正式进入ZB时代,全球数据量大约每两年翻一番,意味着人类在最近两年产生的数据量相当于之前产生的全部数据量。爆炸式增长的数据,正推动人类进入大数据的时代。
视频监控数据有两个方面的内涵——海量和非结构化。视频监控数据量规模庞大,并且随着高清化、超高清化的趋势加强,视频监控数据规模将以更快的指数级别增长;与通常讲的结构化数据不同,视频监控业务产生的数据绝大多数以非结构化的数据为主,这给传统的数据管理和使用机制带来了极大的挑战。
因为大数据带来了很多现实中的难题,为了解决这些难题需要新的技术变革,需要新一代的数据库技术,业界称之为大数据技术。IDC这样定义大数据技术:大数据技术将被设计用于在成本可承受(economically)的条件下,通过非常快速(velocity)的采集、发现和分析,从大量化(volumes)、多类别(variety)的数据中提取价值(value),将是IT领域新一代的技术与架构的变革。Hadoop技术正是在此背景下诞生,历经数年的积累,Hadoop已成长为一个强大的生态系统,不但衍生出HDFS、HBase、Hive等多个子项目,成为IT领域广泛采用的大数据模型框架。
大数据技术革新视频监控体系架构
视频监控业务的核心就是数据,数据就是业务本身,那么基于大数据架构,可以给中大型的视频监控项目带来诸多的裨益。
第一,架构更加灵活,伸缩弹性更大
对于一些中大型项目,由于起点的差异,缺乏视频监控架构的顶层设计,后期的扩容升级难免尾大不掉,如在建设初期就引入面向大数据的架构,为业务扩张和管理带来好处。
第二,以廉价通用硬件迎合视频监控数据的爆发性增长
在面向大数据的架构中,可根据视频监控业务的部署需要,设立多个HDFS集群组成,采集的流数据会被划分成段,并分布于数据节点,这些数据节点可以采用廉价通用型的硬件,由软件技术保证其高可靠性,这种方式避免采用传统高端硬件的模式,大大降低投资成本。
第三,通过高速并行计算实现智能分析和数据挖掘
对于金矿来讲,唯有熠熠发光的金子才是有价值,视频监控数据就犹如这样一座金矿,传统人工和串行的数据筛选方式已在大数据时代不能满足要求。面向大数据的架构原理就是将海量数据分解为较小的更易访问的批量数据,在多台服务器上并行分析处理,从而大大加快视频数据的处理进程。
结合视频监控业务特点,引入Hadoop的架构,以顶层设计的视角来构建面向大数据视频监控架构,将对未来视频监控业务的规划设计产生深远的影响。大数据视频监控逻辑架构有:数据源层,大数据存储层,大数据计算层,业务及管理层。基于大数据的视频架构,本质上是把视频数据作为最有价值的资产,以数据作为核心来构建的技术架构,重点解决了海量的视频数据分散和集中式存储并存、多级分布问题,极大提升了非结构化视频数据读写的效率,为视频监控的快速检索、智能分析提供了端到端的解决方案。
大数据视频监控构架带来的价值
大数据视频架构是革命性的技术,特别在实时智能分析和数据挖掘方面,让视频监控从人工抽检,进步到高效事前预警、事后分析,实现智能化的信息分析、预测,为视频监控领域业务带来深刻的变革。
视频监控进入网络化时代以后,越来越多融入IT新兴技术,大数据技术在视频监控领域的广阔发展路径已经显现,不少厂家正致力于通过将大数据技术和视频监控业务的完美融合,打造大数据时代的视频监控解决方案。
大数据技术和视频监控业务的融合
“除了上帝,任何人都必须用数据来说话”,美国著名管理学家、统计学家爱德华·戴明将数据提升到了和上帝平行的高度。视频监控业务正是一个典型的数据依赖型业务,依靠数据说话。可以说,大数据与视频监控业务有着天然的结合。综合来看,大数据与视频监控业务的结合主要体现在“存”、“看”、“用”上。
“闪存”:如果类比水库蓄水的方式,典型的网络视频监控数据存储模型是一个由小溪汇聚河流、再汇聚到水库的蓄水方式。小溪数量增多、水量增大是水库蓄水量的保证,然而传统方式下蓄水量增大将提高水库建造成本和蓄水安全的要求。而采用分布式蓄水模式,在河流中游建立多个中间蓄水池,不仅可以减少主水库蓄水压力和成本,化整为零也提高了就近用水效率。在大数据技术支撑下,网络视频监控数据存储模型可转向分布式的数据存储体系,提供高效、安全、廉价的存储方式。
“易看”:在视频监控业务中,错看漏看、来不及看等是常见的困扰点。大数据监控图像的回溯给许多安防监控管理人员带来了生理与心理的双重挑战。在大量人力投入的公安案件追溯中,都常常耳闻“看到吐”、“看到晕”等无奈和感叹。可想而知一般零售行业、金融行业等,对于视频监控图像的回溯就更为困难。在视频监控大数据趋势已经来临之际,依靠人眼去检索、查看所有视频图像数据已经不太现实。通过大数据技术实现视频图像模糊查询、快速检索、精准定位,让看变得简单迫在眉睫。
“善用”:视频监控业务中,看只是信息采集的方式之一,用才是业务应用的根本。视频监控业务的效率问题已经成为阻碍产业发展的关键瓶颈。随着视频监控摄像机覆盖广度、密度增大,视频图像数据量呈指数级上升,而视频监控数据的使用效率却在下降。
相关专题: