近几年人工智能、区块链、大数据等技术的快速发展与 应用催生出对芯片产业的海量需求。具体而言,在安防产品中,摄像头、交换机、IPC(网络摄像机)、硬盘刻录机、各类服务器等设备都需要芯片,其中ISP芯片、DVRSoC芯片、IPCSoC芯片、NVRSoC芯片以及AI芯片都是目前安防行业最为关注的方向。
AI芯片通常用于AI摄像机中也被称为AI加速器或计算卡,主要分为 GPU (图像处理器)、FPGA(现场可编程逻辑门阵列)、ASIC(专用集成电路)等,专门用于处理人工智能应用中的大量计算任务的模块。随着5G、人工智能、物联网等前沿技术的快速发展,未来“云边结合”也将是AI芯片在安防行业发展最主要的趋势。在云端芯片方面,目前主要还是英特尔、英伟达、谷歌等国外企业的天下,国产芯片是否可以冲破阻碍,不断深入发展?
比特大陆AI业务线CEO王俊
比特大陆在各种芯片制程标准下均具备领先的设计能力,是世界上少数有能力开发云端人工智能芯片的公司之一。专注人工智能芯片及人工智能产品开发,现已成功推出四款人工智能芯片,适用于深度学习领域的专用张量加速计算。
本期《中国安防》有幸采访到比特大陆AI业务线CEO王俊先生,将从芯片设计架构、芯片算力、芯片发展态势等方面来探讨芯片技术的无限可能。
《中国安防》:从芯片设计架构来看,AI芯片与传统安防芯片相比有何区别?
王俊:从安防行业来看,传统芯片有NVR芯片、端侧IPC摄像机芯片等,更加偏重安防行业的功能性,如视频采集、图形处理、数据存储。AI芯片是通用的概念,一般指可以提供算力、承载机器学习和深度学习算法的数字逻辑计算芯片。其作用是AI算力赋能,在安防行业尤其作用在机器视觉领域,承载和加速目标检测、分类、分割等深度学习算法。对于人工智能技术来说,算法、算力和数据是其三大支柱,芯片作为提供算力的根基也历经多个发展阶段,从最初CPU计算,到GPU再到FPGA,最终到ASIC/TPU等架构的成长过程。
CPU:中央处理器本质是一个逻辑运算单元,AI算法需要强大的并行计算能力,理论上只要有CPU就可以进行 AI运算,但在运行过程中会出现运算能力差、发热高、卡顿等现象。
GPU:图形处理器,用途是将计算机系统所需要的图形、特效处理和显示信息进行硬件加速,如图形几何变换、渲染、贴图、纹理等等大吞吐的图形并行计算,相比CPU而言,GPU可提供更快的处理速度,更少的服务器投入和更低的功耗。
FPGA:现场可编程门阵列,它是在PAL、GAL、CPLD等可编程器件的基础上进一步发展的产物。作为专用集成电路(ASIC)领域中的一种半定制电路而出现的芯片,既解决了定制电路的不足,又克服了原有可编程器件门电路数有限的缺点。
ASIC:专用集成电路,应对特定用户要求和特定电子系统的需要而设计、制造的集成电路。它作为集成电路技术与特定用户的整机或系统技术紧密结合的产物,与通用集成电路相比具有体积更小、重量更轻、功耗更低、可靠性提高、性能提高、保密性增强、成本降低等优点。
TPU:谷歌研发的一种神经网络训练的处理器,主要用于深度学习、AI运算。作为机器学习处理器,不仅仅支持某一种神经网络,还支持卷积神经网络、LSTM、全连接网络等多种。
NPU:嵌入式神经网络处理器,采用数据驱动并行计算的架构,特别擅长处理视频、图像类的海量多媒体数据,它也是目前AI芯片的新宠儿。
《中国安防》:从近几年AI芯片的研发状况来看,AI芯片还有哪些亟待解决的技术瓶颈?是否有相应方案?
王俊:我认为主要包括以下几点:
1.AI算法演进速度比前几年有所减缓,但还是很快,芯片设计仍需具有一定前瞻性,保留一定的灵活性。一颗芯片研发周期长,成本高并且一经推出就不可随意修改,所以保留灵活性支持未来可能的算法就更为重要。当然过高的灵活性往往会降低并行度和性能,所以芯片需要好的设计也需要找到合适的平衡点。
2.随着算力密度的提升,比如从2D结构升级到3D结构,计算时很难将所有的计算核心都同时用起来,计算核心利用率会有所下降,这就导致理论算力翻了很多倍,但多数场景下实际算力增长没有那么多。另外,随着制程的演进由28nm变成12nm,再变成7nm,晶体管密度提高导致发热量加大,对散热设计提出了更高要求,因此需要动态频率调整。比如芯片内部有调度、计算、数据搬运等工作,他们会运用到不同的模块,不同模块工作时可以进行动态的频率调整 。
3.随着模型、数据量的增大,芯片对存储和带宽也有了更高的需求。而大存储和大带宽又会带来更高的成本和功耗,其实整颗芯片的设计过程中都在做各方面的权衡。
《中国安防》:从AI芯片在安防行业的发展来看,安防行业在不同场景下对于AI芯片的算法、算力的要求是什么?
王俊:安防行业AI应用具备场景碎片化这一典型特征,并且从目前应用较成熟的公安、交通、金融等场景向教育、司法、智慧园区、智慧社区、工业安防、城管、物流、移动监控、安防机器人等众多泛安防垂直场景不断延伸,从而带来在各种场景下除去人脸识别、视频结构化、物体特征识别等成熟算法之外的种类繁多、百花齐放的长尾算法。
在云端、边缘、终端等不同的复杂应用下,对AI计算芯片的精度、功耗、可靠性、环境适应性、成本等也提出了不同要求。将合适的算力放到合适的场景下,适配不同种类、不同计算量、不同框架的算法模型是面向安防应用的AI芯片必须要通过的考验。云边端的集成、融合、协同能力也需要通过AI芯片公司的底层支撑才可以得到长足发展。
与此同时,安防领域的AI芯片不仅供应AI算力,还需面向各个具体业务场景提供端到端的处理和加速能力。终端侧的AI-SoC芯片在AI处理能力之外,ISP图像处理单元也不可或缺。边缘侧和云端的AI芯片,网络与存储接口、视频编解码、视频前后处理等全流程处理能力对于减少数据搬运、提高能效比、实现完整的业务流程加速尤为重要。通用型的安防AI芯片,不仅要关注各项性能的平衡,同时还要具备足够的产品想象力和空间,不同需求的安防企业可以据此开发差异化的产品和应用。
从面向未来的应用场景看,安防与物联网结合的RFID信号处理、工业级总线支持等多数据类型的处理,与5G相结合的融合通信能力,与AR、VR结合的感知传感器接入以及对3D图形的处理等都为AI芯片的进一步发展描绘了更具创新力和想象力的未来。
《中国安防》:比特大陆AI芯片已发展到第四代,智能计算从云端转向云边一体会成为一种趋势,目前来看中国AI芯片做到了哪些?还有哪些方面需要努力?
王俊:AI芯片按照任务划分,可以分为训练芯片和推理芯片;按部署位置划分,可以分为云端芯片、边缘侧和终端芯片。其中,训练芯片对算力、精度和通用性要求较高,一般部署在云端,多采用“CPU+加速芯片”这类异构计算模式;推理芯片更加注重综合性能,更考虑算力耗能、延时、成本等因素,在云端和边终端都可以部署。云端AI芯片部署在公有云、私有云和混合云等大型数据中心,能满足海量数据处理和大规模计算,可通过多处理器并行完成各类AI算法的计算,具有通用性。边终端AI芯片更要求体积小、能耗低、成本低,对于安防行业主要用于摄像头、边缘服务器等边终端设备中。
从云端转向云边一体已经是AI芯片发展的应用趋势。为此我们在产品定位上也丰富了从云到边的全栈产品线,包括云端智能加速卡SC系列,兼顾云边的智能计算模组SM系列,及智能计算盒SE系列。而且在边缘侧SM及SE系列产品为客户提供例如芯片的宽温、低功耗设计,同时在产品外观上轻薄和主动散热等设计来适配更多样化的市场需求。
目前我国AI芯片的生产还受一些客观因素条件限制,但AI芯片行业还是发展迅速,在AI芯片设计方面已经达到国际先进水平,尤其在芯片制程和算力等多方面都已经可以比肩国际行业翘楚。
《中国安防》:从近几年安防行业的发展来看,AI芯片在安防行业的发展还有多大潜力?
王俊:首先,安防行业从2015年至今智能化速度非常快。安防行业是一个完整的生命体,不仅仅是后端视频分析,包括前端、后端、智能交通以及非视频类产品等多个方向,每个方向都是百亿级市场规模,而这些方向都融合进了AI,例如摄像机智能化、智能化服务器、智能卡口电警、人脸识别门禁报警等场景都是AI+应用。从建设情况看,安防智能化还有很长的路要走,目前国内已建摄像机数亿个,具有AI功能的摄像机普遍为最近几年的新建设备,占比不大,待智能化的市场空间还非常巨大。智能交通、非视频应用与之类似,新建设备也基本为智能设备,像人脸识别、车辆识别等已成为标配功能。
其次,单从AI芯片角度来看,市场空间依旧巨大。安防客户对国产AI芯片的要求从高标准变为可实战,从噱头为主变为追求落地,从实验室走向了应用。另一方面,国家新基建规划的提出也给AI芯片在安防行业的发展提供了催化剂,极大加速了AI芯片落地进程,未来想象空间巨大。
最后,AI芯片和安防芯片是既有联系,也有区分。我认为AI芯片可以与安防进行不同程度的有机结合:
在某些场景特别是云端大算力场景,仍然是分离解耦、多种异构计算架构会长期存在。如会有专门的AI算力服务器、专门的流媒体服务器、单独的云存储等,最终形成一个整体解决方案。
可以在边缘侧、端侧形成产品级融合,与传统安防芯片结合起来成为一个产品/方案。如NVR的智能产品,插上一个AI芯片的模组/卡,就可以集视频解码、图形处理、AI智能、存储于一身。
在芯片级融合,把安防功能和AI算力作为IP模块,融合在单芯片内,形成单芯片SOC解决方案。如端侧的智能摄像机、抓拍机等,甚至应用到将来的机器人、无人机等。
《中国安防》:从美国前段时间对华为芯片的禁令来看,芯片架构、芯片设计软件及芯片制造等环节都被进行了限制,同为Fabless芯片运作模式的比特大陆有什么预防措施及解决方案?您对安防芯片未来发展有何看法?
王俊:首先比特大陆严格遵守各地法律法规,做好各种业务的合规性审核,目前看并无太大的技术限制风险。比特大陆是全球领先的无晶圆芯片设计厂商,自主研发设计芯片委托台积电生产,目前在市场上规模化量产7nm制程的区块链芯片和12nm制程的AI芯片,安防是AI芯片的重要应用行业。
1.在芯片架构方面,比特大陆算丰系列AI芯片中核心深度学习计算架构NPU单元是自主研发,因此对于芯片架构方面所受外界影响不大。
2.目前高端EDA软件以美国企业为主,国内该领域厂商还没有成长起来,比特大陆所使用的EDA软件工具也出自美国。
3.对于芯片生产制造而言,比特大陆与台积电的合作一直非常良好,也是台积电全球范围内的重要合作伙伴,经常会参与到台积电新制程的产线打磨。未来我们也会继续与台积电保持良好的合作态势,同时也考虑与国内芯片生产厂商开展合作,以丰富我们的产品形态。
目前国产安防芯片主要是ASIC芯片,ASIC芯片的设计方面中国并不滞后于西方,随着国家对半导体行业特别是芯片行业的扶持政策落地实施,会涌现出更多的优质ASIC芯片设计厂商,并在竞争中通过优胜劣汰提升整个行业水平,安防乃至泛安防是ASIC芯片的重要应用场景,场景需求和技术水平会相互拉动螺旋上升。尽管国内的芯片生产制造和EDA软件与国际先进水平存在差距是一个不争的事实,但是芯片技术发展到今天这样的规模是全球大合作的结果。
我们希望良好的全球化合作共赢模式可以持续下去促进整体生态良性发展,同时我们也期望我国政府可以带领整个国产芯片链条快速成长,早日追上国际先进水平。作为业内领先的芯片设计企业,我们也将积极参与其中,贡献自己的一份力量。
《中国安防》:比特大陆除了专注AI芯片,还以芯片为核心开发了一系列AI硬件产品,未来将在安防行业如何布局?
王俊:我们的产品战略一直是围绕自研AI芯片,打造覆盖从边到云的AI加速硬件产品矩阵。包括边缘智能计算盒,兼顾边云的智能计算模组,云端智能加速卡,智能服务器乃至大规模的超算中心。同时我们以开放的心态与业内的硬件厂商深度合作,打造基于算丰AI芯片或者模组的定制化硬件产品,从而满足安防行业的不同场景以及客户的不同需求,在算丰的硬件生态打造过程中,我们积极开放硬件开发资料、开源关键设计,并辅以仿真及专业指导,以缩短合作伙伴的开发周期、以一版成功为目标,加速产品上市进程,使更多的生态合作伙伴加入算丰生态圈。
说到我们AI硬件产品在安防领域的规划,不同的产品形态也会各有侧重:
1.模组方面继续拓展智能NVR、边缘服务器、巡检机器人、无人机等边缘集成场景客户,我们也将在年底陆续推出低功耗超宽温的新产品,面向低功耗场景以及环境严酷的场景,从而拓宽产品适用性和多样性帮助客户提升产品竞争力。
2.加速卡方面经过长期多样的服务器互兼容测试后,已经很好适配了浪潮、曙光、宝德、超微、恒为等多款服务器型号,未来将继续扩展国内外服务器或工控机产品兼容列表,为安防乃至其他行业客户针对云端或边缘场景提供更加多样的选择。
3.计算盒与模组形成组合拳,继续批量供货给OEM客户直接使用,随着几家合作伙伴基于比特大陆计算盒形成的服务器、算力矩阵等衍生产品陆续商用,计算盒产品系列将实现16路至160路不等的全边缘场景覆盖。我们也将继续以国产小型化为特色,持续深挖安防以及其他行业的边缘需求,并计划随超宽温模组一起推出计算盒新产品。