企业新闻 > 正文
百度安全:人工智能时代面临四大安全威胁
2019/10/17 09:40   光明日报      关键字:百度 人工智能 安全威胁      浏览量:
针对不少网民关心的网络黑产侵犯用户利益问题,马杰表示,相关网络黑产是行业顽疾,百度安全一直以来都在不遗余力地进行打击,至今已针对黑产发起了超过100起的专项打击行动,并配合公安机关破获过多起黑产相关案件。
  AI(人工智能)技术的进步在推动各行各业持续发展的同时,也给安全行业带来了全新的挑战。10月15日,百度安全总经理马杰在媒体沟通会上表示,面对AI时代的安全威胁,百度安全将以更开放的态度联合更多合作伙伴,共同应对AI时代全新的安全挑战。

  针对不少网民关心的网络黑产侵犯用户利益问题,马杰表示,相关网络黑产是行业顽疾,百度安全一直以来都在不遗余力地进行打击,至今已针对黑产发起了超过100起的专项打击行动,并配合公安机关破获过多起黑产相关案件。

  马杰表示,AI时代的安全威胁主要来自模型安全、数据安全与隐私、系统与网络安全、安全生态四个方面。以模型安全为例,自动驾驶技术对于目标物体的识别和判定将直接影响自动驾驶系统的操作判定,如果有人通过伪造交通标识、伪造不存在的障碍物对系统识别造成干扰,就可能导致车辆在原本不需要刹车的地方进行刹车,或者在原本需要减速的地方没有减速,会造成很大的安全隐患。

  据介绍,百度安全在技术层面已经有了很多前沿的研究积累。目前,百度安全在AI、大数据以及云计算等技术层面获得了多项全球专利。

  “开放”是马杰在这次分享中提到最多的一个词,也是百度安全在AI时代的聚焦方向。马杰表示,百度安全现在已经开放了多项产品、技术及解决方案,例如史宾格隐私合规助手,本身就是一款基于国家“App违法违规收集使用个人信息自评估指南”所推出的App隐私合规一键式检测平台,这款产品已经在百度业务全面使用,并完全开放。而百度安全推出的AIoT(人工智能物联网)安全行业解决方案,也已经引入了包含华为、TCL、创维、长虹等50余家生态合作伙伴,覆盖超过1.5亿部设备。

  在开放产品和解决方案之外,百度安全的开放还表现在对于底层技术的开放。2018年,百度安全推出了BASS下一代人工智能安全技术栈,将首创的7大技术开源成“7种武器”,全面解决云管端以及大数据和算法层面的一系列安全风险问题。

  针对网民所关心的用户安全问题,马杰也分享了一些典型案例。比如,有些用户在使用百度搜索时,偶尔会发现搜索结果里的某些网址下方会有用黄色字体标注的风险提示信息。对此,马杰表示,百度安全会对收录网页进行7×24小时的监测,当系统发现网站被入侵、篡改时,就会及时对上线用户提示信息,避免用户损失。一些网民反馈,在搜索并点击某个结果之后,不久就会接到营销电话的情况,就与网络黑产相关。

  网络黑产一直是百度安全打击的重点。目前,百度安全每天会为用户提供100亿次实时的访问保护,每年会拦截用户搜索风险411亿次。

  “黑产的逐利性决定了我们与黑产的对抗是永无休止的。”马杰说,在巨大的经济利益驱动下,网络黑产也在不断升级技术,未来甚至可能将会出现“AI对AI”的局面。这就要求我们加大AI安全的研发力度、不断迭代更新技术,同时像攻击者一样思考,提升安全防护能力和效率。

  “进入AI时代,整个安全行业将会迎来很多全新的挑战。”马杰表示,安全不是任何一家公司、社区、生态能够独立解决的事情,百度安全会秉持一直以来的开放态度,从开放产品、技术,到开源核心代码,百度安全希望通过全面开放的诚意,和更多的合作伙伴一起构建一个开放的AI安全生态。(光明日报全媒体记者刘坤)

微信扫描二维码,关注公众号。