“大数据是飞速增长的，用现有数据库管理工具难以管理的数据集合”。这些数据包括：社交媒体、移动设备、科学计算和城市中部署的各类传感器等等，其中视频又是构成数据体量最大的一部分。据IMSResearch统计，2011年全球摄像头的出货量达到2646万台，预计到2015年摄像头出货量达5454万台。2011年一天产生的视频监控数据超过1500PB,而累计历史数据将更为庞大，在视频监控大联网、高清化推动下，视频监控业务步入数据洪水时代不可避免。

视频监控数据有两个方面的内涵——海量和非结构化。视频监控数据量规模庞大，并且随着高清化、超高清化的趋势加强，视频监控数据规模将以更快的指数级别增长；与通常讲的结构化数据不同，视频监控业务产生的数据绝大多数以非结构化的数据为主，这给传统的数据管理和使用机制带来了极大的挑战。

数据洪水给视频监控的困境

以飞速增长的视频监控数据，使得传统视频监控体系架构、数据的管理方式、数据分析应用等面临新的困境。

困境一，数据量的急剧扩大和IT投资之间的矛盾。按照IT产业的法则：在满足客户需求的前提之下，往往技术成本越低，其生命力往往越强。由于数据量的急速扩大，以及随之而来的大规模计算的需求越来越多，一味采用高配硬件，使得硬件投资成为客户不可承受之重，客户越来越希望在满足需求的前提下，用中低端的硬件来替换高配硬件。

困境二，海量数据和有效数据之间的矛盾。摄像头7X24小时工作，如实记录镜头覆盖范围的发生的一切，仅仅记录信息是不够的，因为对于客户来讲可能大部分信息是无效，有效信息可能只分布在一个较短的时间段内，按照数学统计的说法，信息是呈现幂律分布的，也称之为信息的密度，往往越高密度的信息对客户价值越大。

困境三，资源利用和效率之间的矛盾，串行计算和并行计算的矛盾。视频监控业务网络化、大联网后，网络内的设备越来越多，利用闲置的计算资源，实现资源的最大化利用，关乎运算的效率。在视频监控领域，往往视频分析的效率决定价值，更低的延迟、更准确的分析往往是平安城市这类客户的普遍需求。随着数据量的增加，哪怕对TB级别的数据进行对视频内容的数据分析和检索，采用串行计算的模式都可能需要花费数小时的计算，已远远不能胜任时效性的需求。视频的分析和检索，不能依赖于传统的手段，巨量数据的效率优化，并行计算是视频智能分析的唯一出路。

大数据关键技术简介

因为大数据带来了很多现实中的难题，为了解决这些难题我们需要新的技术变革，需要新一代的数据库技术，业界称之为大数据技术。IDC在定义大数据技术：大数据技术将被设计用于在成本可承受（economically）的条件下，通过非常快速（velocity）的采集、发现和分析，从大量化（volumes）、多类别（variety）的数据中提取价值（value），将是IT领域新一代的技术与架构的变革。Hadoop技术正是在此背景下诞生，历经数年的积累，Hadoop已成长为一个强大的生态系统，不但衍生出HDFS、HBase、Hive等多个子项目，成为IT领域广泛采用的大数据模型框架。

大数据技术和视频监控业务在体系架构上的融合

“除了上帝，任何人都必须用数据来说话”，美国著名管理学家、统计学家爱德华.戴明将数据提升到了和上帝平行的高度。视频监控业务正是一个典型的数据依赖型业务，依靠数据说话。可以说，大数据与视频监控业务有着天然的结合。综合来看，大数据与数据监控业务的结合主要体现在“存”、“看”、“用”上。

“闪存”：如果类比水库蓄水的方式，典型的网络视频监控数据存储模型是一个由小溪汇聚河流、再汇聚到水库的蓄水方式。小溪数量增多、水量增大是水库蓄水量的保证，然而传统方式下蓄水量增大将提高水库建造成本和蓄水安全的要求。而采用分布式蓄水模式，在河流中游建立多个中间蓄水池，不仅可以减少主水库蓄水压力和成本，化整为零也提高了就近用水效率。在大数据技术支撑下，网络视频监控数据存储模型可转向分布式的数据存储体系，提供高效、安全、廉价的存储方式。

“易看”：在视频监控业务中，错看漏看、来不及看等是常见的困扰点。大数据监控图像的回溯给许多安防监控管理人员带来了生理与心理的双重挑战。在大量人力投入的公安案件追溯中，都常常耳闻“看到吐”、“看到晕”等无奈和感叹。可想而知一般零售行业、金融行业等，对于视频监控图像的回溯就更为困难。在视频监控大数据趋势已经来临之际，依靠人眼去检索、查看所有视频图像数据已经不太现实。通过大数据技术实现视频图像模糊查询、快速检索、精准定位，让看变得简单迫在眉睫。

“善用”：视频监控业务中，看只是信息采集的方式之一，用才是业务应用的根本。视频监控业务的效率问题已经成为阻碍产业发展的关键瓶颈。随着视频监控摄像机覆盖广度、密度增大，视频图像数据量呈指数级上升，而视频监控数据的使用效率却在下降。智能交通应用、消费者行为分析应用等综合视频监控和图像智能分析的业务出现，正努力突破视频监控效率值及商业价值低下的瓶颈。通过大数据技术，进一步挖掘海量视频监控数据背后的价值信息，快速反馈内涵知识辅助决策判断是将视频监控用好、用善的金钥匙。

面向大数据的视频监控体系架构

视频监控业务的核心就是数据，数据就是业务本身，那么基于大数据架构，可以给中大型的视频监控项目带来诸多的裨益。

第一，架构更加灵活，伸缩弹性更大。对于一些中大型项目，由于起点的差异，缺乏视频监控架构的顶层设计，后期的扩容升级难免尾大不掉，如在建设初期就引入面向大数据的架构，为业务扩张和管理带来好处。第二，以廉价通用硬件迎合视频监控数据的爆发性增长。在面向大数据的架构中，可根据视频监控业务的部署需要，设立多个HDFS集群组成，采集的流数据会被划分成段，并分布于数据节点，这些数据节点可以采用廉价通用型的硬件，由软件技术保证其高可靠性，这种方式避免采用传统高端硬件的模式，大大降低投资成本。第三，通过高速并行计算实现智能分析和数据挖掘。对于金矿来讲，唯有熠熠发光的金子才是有价值，视频监控数据就犹如这样一座金矿，传统人工和串行的数据筛选方式已在大数据时代不能满足要求。面向大数据的架构原理就是将海量数据分解为较小的更易访问的批量数据，在多台服务器上并行分析处理，从而大大加快视频数据的处理进程。

结合视频监控业务特点，引入Hadoop的架构，以顶层设计的视角来构建面向大数据视频监控架构，将对未来视频监控业务的规划设计产生深远的影响。下面简明扼要描述下面向大数据视频监控逻辑架构。

数据源层，包括实时数据和非实时数据。