智能网联信息安全正不断被提上新的议程。
车联网和智能网联汽车是时代工业化与信息化融合的重要方向,对推动产业结构变革,促进经济高质量发展具有重要作用。近些年,中国智能网联汽车发展迅速,已初步形成L2及以上汽车研发和测试能力。但智能网联汽车作为联网环境下的移动终端,在商业落地过程中出现了新的问题--安全信任危机。
工信部提出,在加快智能网联汽车关键技术突破的同时,要着力完善安全保障。
在2020年第四届世界智能大会-车联网先导应用创新发展国际高峰论坛上,中国科学院何积丰院士在关于《可信人工智能》的主题演讲中表示,人工智能和人类社会是一种共生的关系,多个领域包括智能制造、智能医疗、智慧城市、智慧农业和国防建设都与人工智能息息相关。针对于汽车领域,其认为依赖于人工智能技术,人工智能科技的发展将指引智能网联汽车未来的方向,但在此过程中同样发现了一些造成人工智能信任危机的一些问题。
何积丰院士认为,目前有两类人工智能安全问题,并针对其提出四大对策和面向主动防御的AI网络体系,辅助人类做智能决策,达到分析问题、建立模型、模拟决策和质量评价的作用。
第一类是数据造成的不安全问题,有三类比较典型的不安全的行为:
1、数据隐私,我们训练很多数据,这些数据暴露了一些不应该暴露的隐私。
2、数据本身有质量,无论是训练数据和现场数据都有质量难以控制的问题。
3、数据在成熟过程中有保护的问题,数据采集前有风险、传输数据有风险、成熟使用流通也有风险。
第二类是算法安全方面的问题,其中算法可靠性是首要问题。
针对人工智能安全问题,他提出四大对策。第一方面对策是可解释性,即我们了解或者解决一件事情的时候,可以获得我们所需要的足够可以理解的信息。比如说过去算法是黑盒算法,缺乏透明性、可解释性,一旦发生问题,难以分析和验证到底问题出处。
第二方面对策是鼓励产生可解释的人工智能,主要是三方面可解释。
1、在建模型之前进行可解释性分析,分析数据的属性,知道数据怎么达到可视化。
2、在构建模型过程中,要基于规则、基于数据特征、基于实例增加可解释性。
3、在模型建完之后,进行可解释性的评估,无论是隐层分析、模拟分析、敏感性分析,都能逐步推动。
此对策主要针对隐私保护,在功能性系统信任和身份数据信号的隐私方面取得平衡。
第三安全对策是公平建模,在给数据大标签时注意公平因素,不管性别、国籍、年龄、健康、种族,纠正行为偏差、表示偏差、理解偏差和内容偏差,达到公平建模。
这些公平里既有统计意义下的公平,也有个体感觉的公平和因果公平。从数据到算法,需要注意历史偏差、聚合偏差、时间偏差、群体偏差,通过交互排除人口偏差、排序偏差、评估偏差、随机偏差。
第四方面人工智能安全对策可信验证,需要有一个在验证、仿真、测试三方面对人机物融合系统支撑的可信的验证引擎。
中国软件评测中心、智能网联汽车测试工程技术中心主任宋娟的《车载智能计算平台安全体系研究与建议》中同样提出,车载智能计算平台面临的在安全体系方面存在诸多挑战。
1、功能安全ISO26262在自动驾驶领域应用方案尚未形成共识。在传统汽车电子功能安全比较成熟,在自动驾驶方面,整车厂和智能计算平台企业还都在积极探索,尚未形成行业共识。
2、预期功能安全国内研究基本空白。国外已经在SOTIF方面开展了大量,包括改进流程、措施,但是国内研究基本属于空白。标准体系建设方面亟待完善,包括安全等级划分、测评标准规范制定。测试能力亟待加强建设,比如如何构建SOTIF相关场景库。
3、信息安全纵深防御理念尚未系统融入汽车产业生态。
目前,针对车载智能计算平台涉及硬件、软件、通信等诸多关键技术,产品技术形态没有确定,信息安全防护分层、分布式的技术支持也尚未成型。
在构建纵深防御体系的同时,也需要权衡智能网联汽车安全成本和效率方面之间的关系。宋娟针对发展现状和存在的挑战,提出了几点发展建议:
第一,要围绕产业实际应用需求,以完善产业链和产业建设为中心,总体布局,分布推进,建立健全安全体系,突破关键共性安全技术,保障产业安全和国家安全。
第二,深化架构研究,加快标准研制。进一步深化产品架构研究,梳理、明确、细化功能和性能要求。加快开展车载智能计算平台标准化工作,建立健全标准规范体系,促进行业形成共识。
在智能网联的应用层面,高精度地图是确保安全的底层支撑。
四维图新高级副总裁孟庆昕认为,高精度地图在未来智能网联是基础设施和载体,公众出行、智慧交通、无人驾驶、安全应急、城市治理都需要这张地图。
所有的定位和实时信息回传到高精度地图平台的有效载体上,因此高精度地图的精细化、秒速更新、智能化决策无论对车路协同还是自动驾驶仿真场景的安全应用,都是至关重要的支撑。
正是由于信息高速处理和系统迭代,智能网联将不断面临新的信息安全的威胁和风险,这与中国软件评测中心、智能网联汽车测试工程技术中心主任宋娟的担忧不谋而合--代码数量快速增加和OTA技术的应用使信息安全问题更加凸现。
对此,宋娟提出解决方案,在研发时首先需要高度关注安全问题,同步全流程嵌入安全管理理念,配套加快包括检测工具的研发和检测平台的搭建,强化技术保障能力。
信息安全是智能网联产业不容忽视的一环,停留在单个功能环节的安全考量是不全面、不系统的。沿袭全产业链条、分层分级技术支撑形成合力,从产业全局角度思考才能构筑智能网联"大安全"。