技术动态 > 正文
人脸识别技术运用中的认知误区
2020/2/26 08:54   数据派THU      关键字:人脸识别技术,运用,认知误区      浏览量:
本文为清华大学法学院劳东燕教授关于人脸识别技术运用认知误区的观点分享。
  无处不在的摄像头,几乎遍布每一个生活场景的人脸识别,其中存在着哪些认知误区?又存在着哪些隐忧?清华大学法学院劳东燕教授带来她的观点分享。
  『一』生活在这个社会,我们逐渐习惯了越来越多的摄像头。
  很多人可能与我先前一样,会以为这样的摄像头,不过是记录自己在公共场所的行踪,防止诸如交通违规之类的行为,所以并不为意。实际上,遍布的摄像头,正是为了与人脸识别技术相配套,方便这项技术大展威力。
  去年以来,由于底层技术实现质的突破,人脸识别的准确率大为提高,其应用场景出现爆炸式的增长。
  一如既往地,人们将之视为新技术的拓展,平静甚至是相当愉悦地接纳了它在诸多场景中的应用。有人甚至还开起玩笑,这下整容业要大受影响了。这样的担心有些杞人忧天。即便整容,由于人的双眼瞳孔之间的距离是不变的,所以,根本不用担心识别技术会发挥不了作用。
  面对人脸识别技术的迅速推广,人们所表现出的平静与愉悦,大体上是因为,很多人将人脸识别技术理解为单纯的识别与印证,不觉得有什么风险。同时,除了在抓捕罪犯的场景,人们也往往没有将这种技术的应用,与到处遍布的摄像头关联起来,或者是下意识地将自己视为是监控的例外。
  从此种意义上来说,人们普遍的并不为意,以及接受这项新技术时的平静与愉悦,多少有些陷于盲目,并不知晓自身所处的真实境况。
  将人脸识别技术理解为单纯的识别与印证,是一种重大的误解。实际上,这种技术不仅用来抓取个人的面部生物信息,并与既有数据库中的相应数据相比对。它还能进一步追踪到个人的身份信息、日常的行踪轨迹、人与车的匹配、亲属关系的匹配以及经常接触人员的匹配等。这是它与遍布各处的摄像头相配合的结果。而这一切,只取决于掌控之人想不想使用。
  最新的人脸识别技术,不仅能够指示性别与估计年龄,还能够辨别个人的面部表情。由于它属于人工智能与深度学习的范畴,随着技术的进一步发展,经解读与分析而得出关涉隐私的信息,可想而知会越来越多。多到足以为任何个人勾勒准确的用户画像。
  如此海量的个人信息,若是全能公正的上帝在收集、保管与使用,自然没必要担心。问题在于,这样的假设并不成立。这是一个无神论的社会。
  至于没有什么隐瞒老百姓就无需担心之类的安抚话语,要是真地信了,未免太过天真。抛开频频出现的无罪案件与刑事冤案不论,果真如此的话,监狱里关着那么多的原国家工作人员,算是怎么回事呢?政府哪还需要高调倡导反腐,又怎么可能有层出不穷的保护伞需要打击?
  这意味着,人们对人脸识别技术的普遍接受,要么是基于一厢情愿的盲目乐观,要么是选择性地无视或低估风险的结果。总而言之,就是在信息匮乏的情况下,做出了有失偏颇的判断。这也正是人脸识别技术一直未成为公共话题的重要原因。
  『二』稍做了解便可发现,现行的人脸识别技术,无论是在收集、保管还是使用的环节,都存在诸多的问题。这些问题关涉国民重大的切身权益,绝不只是要求放弃一些隐私方面的权益那么简单。
  首先,从数据收集环节来看,人脸识别具有无意识性与非接触性,可以远距离发挥作用,并能长时间大规模地积累数据而不被用户察觉,具有很强的侵入性。
  人脸识别的技术,能够在人们根本没有感知的情况下,远距离地进行抓取与记录相应的数据。根据《中国新闻周刊》的报道(《人脸识别十字路口:脸的恐慌》),有专家称,中国人每天要暴露在各种摄像头下超过500次。所以,不用怀疑,只要开始使用人脸识别技术,就始终有一双眼睛随时紧盯着你我。成为透明人一样的存在,不是出于想象,而就是活生生的现实。
  然而,面部的生物数据明显属于个人信息,即便按现在的法律规定,人脸识别的收集环节也涉嫌严重的违法甚至犯罪。因为很多场合对个人面部数据的获取,根本没有征得被收集人的同意,难以认为是依法取得。
  根据现行的刑法规定,不经同意而非法获取,或者将合法取得的个人信息出售或提供给第三方,此类行为均涉嫌构成侵犯公民个人信息罪。
  某些应用人脸识别的场景,表面看来是在被收集人有认知的情况下进行,似乎已征得其同意。实际上,由于信息告知不充分,包括收集的主体、收集的数据范围、使用目的及范围、保护措施与相应风险等均未予明示的前提下,被收集人事实上的认可,在法律上并不成立有效的同意,故收集行为仍属违法。
  其次,从数据保管环节来看,一旦收集主体未能善加保护,就会导致大规模泄露的情况;即便其采取合理的保管措施,也仍然面临被黑客侵入而泄露的危险。由于个人的生物学数据具有稳定不变性,一旦泄露,相应的风险及危害即不可逆转,也无法有效进行弥补。
  今年有多起新闻报道涉及人脸数据泄密的问题。先是国内提供人脸检测与人群分析的一家科技公司,被发现其人脸识别数据库未设密码保护,一直对外开放,导致256万用户信息被泄露。近期又有媒体发现,在网络商城中有商家公开售卖人脸数据,数量达17万条。
  这些泄露后的人脸数据,究竟会被什么样的人使用,用于怎样的场合,是否可能导致财产的损失与其他人身权益的侵犯,对此,我们都一无所知。可以确定的是,人脸数据的泄露,所带来的潜在的安全风险,远比手机号与账户信息的泄露更为严重。
  今年推出的一款AI换脸软件,只需要一张正脸照,就可以将视频中人物的脸进行替换。换脸技术的出现,让诈骗行为与制造社会恐慌等,都变得更为简单易行。想想近些年电信诈骗的猖獗程度,就可推知,人脸数据的大规模泄露,会给社会带来多大的恐慌,会让多少普通人遭受重大的损失。
  更何况,人脸识别技术本身就存在诸多的技术漏洞。《中国新闻周刊》的前述报道提到,在一次安全极客的赛事上,毕业于浙大计算机专业的一位90后女选手,仅用两分半钟就破解了人脸识别门禁系统,将设备中存储的人脸予以更换。
  人脸识别的应用场景经历了爆炸式的增长,但是,在如何保护相关数据的问题上,却没有做任何的强制性规定,而完全取决于收集方的意思。可想而知,因数据泄露而引发的风险根本难以评估。犹如一个火药桶,只要有一丝火星,就足以引发爆炸性的社会事件。
  最后,从数据使用环节来看,由于未作任何限定,随着人脸识别技术应用场景的大肆扩张,滥用与歧视的现象必将不可避免。
  当下常见的应用场景,除了安保、门禁、支付与认证等之外,人脸识别技术也被广泛用于商场流量统计、社区管理、养老金领取、办税认证、物品保存、景区出入与演出场所的检票等。它甚至还进一步被推广用于教学过程,以监控与管理学生的课堂行为。还有,就是开始出现于地铁的安检之中。
  抛开收集与保管环节的问题不论,从前述诸多的应用场景来看,当前对人脸识别技术的运用,显然存在滥用的倾向。这样的滥用,使得大规模的潜在操纵成为可能,而监控变得无所不在。有关滥用的风险,当前所揭示出来的一些情况,无疑只是巨大冰山的一角。
  人脸识别技术还可能引发歧视的问题。研究表明,人脸可以显示性倾向,且预测结果大部分正确。所以,同性倾向的人很可能会成为歧视对象。自然,歧视的领域远不只此,还包括种族、性别、民族、地域与职业等方面的歧视。
  『三』可想而知,单是技术本身的突破,难以解释人脸识别技术在应用上的迅速推广。它在当前的大肆扩张,背后有两大推动的力量,一是权力,二是资本。
  从权力的角度,政府终于找到便捷的技术工具,以安全为名,对全社会做天罗地网式的防控。在资本的维度,从事研发推广的企业,接近疯狂地拓展业务,是为了尽快提升自身的市场估值与利润。
  不得不说,正是在权力与资本的亲密合作下,人脸识别技术的跑马圈地,得以像洪水一样势不可挡。由于对如何收集、保存、传输、使用与处理数据,以及是否允许出售或提供给第三方,能否放在网上等,现行法律并未做任何的介入,这就使得应用场景的大肆扩张所可能引发的风险,也呈几何倍数地增长。这不只是细思极恐,根本就是不敢想象。
  对于权力与资本的这种合作,或许可以提出这样的两点质疑:第一,抓获违法犯罪分子,难道是我们这个社会的首要任务吗?第二,资本追逐利润,难道不需要顾及起码的社会责任吗?
  很多人误以为,人脸识别技术的运用,不过是出让少许个人的隐私,为效率与安全计,牺牲一些也无妨,这仍是一桩值得做的买卖。然而,如果认清人脸识别技术的实质,并获知在数据收集、保护与使用各环节存在的诸多问题,恐怕只能说,这是一场与魔鬼进行的交易。
  个人需要放弃的远不只是一些隐私,而是绝大部分,甚至是全部的隐私。更为重要的是,人们也根本不可能获得臆想中的安全。
  是的,在安保中推广人脸识别技术,的确可以多抓几个犯罪分子。但你真地确定,这么微小的收益,就足以抵消个人的生物信息被泄露与滥用的风险?
  认真思量一下,平时生活中,普通人遭受犯罪侵害的概率有多高。在没有推行人脸识别技术之前,难道我们成天面对来自犯罪的威胁吗?
  一个号称自身很安全的社会,怎么可能会有这么多的犯罪分子?一方面声称,这个社会特别地安全,经常以此自傲于世界;另一方面又认为,普通人无时无刻地受到犯罪分子的威胁,故有必要用天网技术来对付无所不在的犯罪分子。不觉得人格分裂吗?我以为,这样的人,要么是装腔作势的骗子,要么是愚笨得无可救药。
  不难发现,这样一种对风险的随意估测,显得极为盲目。这或许是被权力与资本洗脑后的产物。问题在于,权力与资本明明在联合算计着你我,以微利进行引诱,如果还反过去替对方着想,岂不可悲至极,愚蠢至极?
  『四』为了些许的效率,我们需要放弃的,远不止是个人隐私,还有基本的安全。我们真地确定,这样的放弃是值得的吗?
  在此,有必要回应三种常见的质疑观点。
  其一,既然指纹识别能推广,为什么人脸识别就不行?
  这种观点缺乏基本的逻辑。至少存在四个理由可予反驳。
  首先,对公权力机构而言,在申领身份证时采集指纹,至少有《居民身份证法》的授权;而对个人面部信息的采集,却并无任何的法律授权。从各国的情况来看,强制采集国民的指纹,仍是较为少见的现象。虽然对外国人采集指纹的做法变得普遍,但在法治国家,往往以侵犯个人自治甚至违宪的理由,禁止政府采集普通国民的指纹。
  其次,采集指纹的侵入性,在程度上明显较人脸识别为低,风险也要小得多。毕竟,指纹不具有直接的可视性,与行踪轨迹等其他信息之间的关联性较小,监控性也弱。相反,人脸识别与无处不在的摄像头相结合,会形成高度的监控性。同时,在泄露与滥用的风险方面,人脸识别也比指纹识别要可怕得多。
  再次,指纹识别的应用场景有限,且大多用于个人的手机或单位内部,而人脸识别强制应用的场景过多过滥。进行指纹识别时,个人对此一般都有认知;而使用人脸识别时,个人却经常并不知晓。我们每天数百次地在不知情的情况下,被进行人脸识别。反之,有多少人能接受,每天数百次地进行指纹识别呢?
  最后,只因指纹识别已在应用,便推导出推广人脸识别亦无不可,这在推理逻辑上也存在问题。质疑者的逻辑是,既然已经让政府获得采集指纹的权利,为什么就不能进一步放弃人脸数据方面的权利?问题是,法律没有明文授权,个人凭什么让渡自己的合法权利。照此逻辑推理,下一步,个人的体态数据乃至基因数据,是不是也可全盘放弃,交由某个组织全盘掌握呢?
  其二,为什么机场可以用人脸识别,而地铁与其他的公共领域就不能用?
  这种观点似是而非。否定的理由有三点。
  首先,这种质疑预设了未经证明的前提。人脸识别并非机场安检的必备要件,而是近两年方予应用。试问,此前难道就不存在有效的机场安检了吗?从我这两年到德国、法国、英国与日本的旅行经历来看,相应的机场均未见使用人脸识别技术,难道人家就不进行机场安检了吗?
  其次,即便机场例外地有必要运用人脸识别,也不代表在地铁或其他的公共领域可予推广。机场的安检原本就代表最高级别,不分场合实行同级别的安检,呈现的只能是治理思路的混乱。不仅在必要性上存疑,也给民众的出行造成严重的妨碍。
  最后,即便人们在机场安检时接受人脸识别,也不意味着相应的面部信息就可用于机场安保之外的目的与场景。人们同意在机场安检时进行人脸识别,相应的数据自然也只能用于机场安检的目的,不代表可以随意移用于其他场合。不然,就是超越用户同意的范围,而非法收集与使用个人的面部生物信息。
  其三,在地铁中运用人脸识别,可以让大家自愿来选择,为什么不给这样的选择机会?
  这种观点表面看来言之成理,实际上完全不可行。
  首先,自愿选择的前提是明确而充分的风险告知。如果将人脸识别技术的实质,以及在收集、保管与使用的环节中存在巨大风险进行充分的告知,我严重怀疑,会有多少人愿意为些许的效率,而全然放弃自身的隐私与安全。
  其次,地铁实行人物同检的安检措施,必要性本身就存在疑问。伦敦、巴黎与东京等城市的地铁,均经历过恐怖袭击,但都并未选择实行人物同检。理由显然不是人家缺乏安保经费,而是经过理性考量,不适宜在地铁这样的场所推行人物同检。
  最后,考虑我国地铁的拥挤程度,设立两种安检通道的做法,缺乏基本的可行性。因为这意味着,在地铁安保方面,还要进一步加大投入。除了浪费国民的税收,实在看不出这样做的意义。财政收入是固定的,政府选择将很多预算用到地铁的安检,势必要减少民生方面的投入。
  综上,前述三种质疑观点,要么逻辑混乱,要么似是而非,要么不具可行性,均无法成立。
  『五』我不是技术的保守主义者,也不是要全盘反对人脸识别技术的应用。但是,在未获得法律的明确授权之前,我反对公权力机构收集普通国民的面部生物信息,因为这样的收集缺乏基本的合法性。
  至于人脸识别技术的商业性运用,由于涉及个人信息的收集,收集方必须严格遵守有关个人信息保护方面的法律规定。不仅要确保对数据的收集与保管的规范化,而且要对人脸识别技术的应用场景做严格的限定。
  在商业性的场景中,对人脸识别技术的运用,至少应当符合四方面的要求。
  第一,收集方必须就相关信息与风险做明确而充分的告知,并事先征得被收集人的同意。未经被收集人的明示同意,不得将个人数据以任何形式提供给第三方(包括政府部门),或者让第三方使用相应的数据。在涉及犯罪侦查或国家安全的场合,可例外地予以允许,但需要严格限定适用条件与程序。
  第二,收集程序应当公开,并确保所收集的数据范围合乎应用场景的目的,未超出合理的范围。收集方不允许超范围地收集个人的面部数据,收集的范围应当符合相应适用场景的目的,并以合理与必要为原则。
  第三,收集方在收集个人的面部生物数据之后,应当尽好保管义务。收集方应尽合理的努力,对所收集的数据妥善保管;违反保管义务,应当承担相应的法律责任。同时,如果被收集人撤回同意,或者明确要求删除自己的数据,收集方应当对相应数据予以删除。
  第四,对人脸识别技术的应用场景,必须确保合法与合理,并避免侵入性过强的举措。收集方在特定场景中所收集的数据,原则上不允许运用于其他的场景,除非该场景是在合理的预见范围之内。如果擅自扩大或者改变数据的应用场景,收集方应当承担相应的法律责任。
  值得指出的是,与一般的个人信息相比,面部生物数据的敏感特性,使得现有法律根本不足以提供充分的保护。尤其是,以同意为基础的法律保护机制,在应对科技发展给个人信息的保护所带来的挑战时,已经完全显得捉襟见肘。基于此,法律界有必要做专门的调研,尝试探寻有效而合理的规制路径与保护措施。
  个体的生物信息,包括人脸、基因、指纹、虹膜与步态等,均具有不可更改性。所以,一旦泄露后果不堪设想,包括法律在内的诸多手段,都难以提供有效的救济。相应的风险完全不可逆,根本不可能恢复到泄露之前的基本状态。
  这意味着,在没有对收集、保管与使用的环节做严格的法律规制之前,人脸识别技术的肆意推广,打开的就是潘多拉的盒子。我们付出的,绝不只是隐私的代价,还有孜孜以求的安全。
  因此,围绕人脸识别技术的公共争论,根本就不是隐私与安全之争。它既危及隐私,也威胁安全。无隐私即无自由。长此以往,等待我们的,将是一个既无自由也无安全的社会。若结局如此,人们还会愿意贪图眼下的一时便利,而放手让权力与资本大肆推广人脸识别技术的应用吗?
  在人脸识别技术如何运用的问题上,只有拨开安全与效率的迷雾,不为权力与资本所绑架,才有可能做出理性的选择。

微信扫描二维码,关注公众号。