中国安防行业网

首页 > 焦点评论 > 正文

AI进校园,为何争议不断?
2019/9/25 10:37:00   人民邮电报      关键字:AI 校园 争议      浏览量:
在教室装摄像头并不是什么新鲜事,但教室采用人脸识别技术分析学生的上课情况还是最近才开始的。上个月,上海中医药大学附属闵行蔷薇小学将人脸识别系统引入课堂,通过智能课堂评价、智能环境分析与控制和智能教师培训这三套“AI+学校”系统,对学生和教师进行监控。此举同样引发了不小的争议。
  近日,位于江苏南京的中国药科大学被推到了舆论风口浪尖,原因就是在教室使用人脸识别系统。

  据报道,中国药科大学在两间教室试点安装的人脸识别系统,除了能自动识别学生的出勤情况外,还能够实现对学生课堂听讲情况的全程监控。学生是否认真听讲、课堂上是否抬头低头、抬头低头了几次、抬头低头了多长时间、低头是否在玩手机、是否闭眼打瞌睡……都逃不过这个人脸识别系统的“法眼”。据悉,此举是学校教务部门的要求,意在减少学生逃课、早退、花钱找人代课以及上课不认真听讲等行为,提高学生到课率,严肃课堂纪律。然而,也有一些学生认为这样做会侵犯个人隐私。

  校园管理与隐私保护的矛盾

  对于教室安装人脸识别系统侵犯学生隐私的说法,中国药科大学图书与信息中心主任许建真表示,学校之前已向公安部门和法律部门咨询,由于教室属于公开场所,因此不存在“侵犯隐私”的说法。

  除了教室,中国药科大学在校门口、学生宿舍大门口、图书馆、实验楼等场所均安装了人脸识别门禁。不少该校大学生认为没什么,刷脸进门挺方便。人脸识别教室只是一两个在试用,也没说都装。不过,人脸识别教室引发微博网友热议,尽管一些人表示支持,但大部分网友表示反对,认为这侵犯了学生隐私。

  在教室装摄像头并不是什么新鲜事,但教室采用人脸识别技术分析学生的上课情况还是最近才开始的。上个月,上海中医药大学附属闵行蔷薇小学将人脸识别系统引入课堂,通过智能课堂评价、智能环境分析与控制和智能教师培训这三套“AI+学校”系统,对学生和教师进行监控。此举同样引发了不小的争议。

  进入教室的这套“智能课堂评价系统”可以在真实课堂的样本数据基础上,实现对师生行为与情感的自动检测,通过智能算法分析,给出基于课堂表现的评价和改进建议。针对学生,系统可自动检测到学生举手、站立、坐姿不端等行为,通过记录分析形成对课堂效果的总体评价。可以说和高校使用的“人脸识别教室”有异曲同工之妙。据悉,使用了这套系统后,学生在日常生活中有无微笑、有无向老师问好、有无主动捡垃圾、队列是否整齐等细节都会被捕捉,反馈到总控中心。

  根据《中国新闻周刊》的报道,上海某小学二年级学生的家长何女士听闻此消息后,立刻致电相关部门问询,她认为AI进入小学,必须通知家长,并且需要家长的联名同意。“这件事如果有一个家长反对,学校就不该实施。”她认为,“给学校装AI,家长必须签字。”不过,也有人表示支持,因为这样可以预防危险发生、降低校园霸凌、提高教学质量。

  人脸识别进入教室并非中国独有,近日,瑞典一所高中用人脸识别监测学生出勤,被罚款20万瑞典克朗。此案引发了关于在教育机构中进一步应用AI技术问题的讨论。

  位于瑞典北部城市谢莱夫特的一家当地教育机构被瑞典数据保护局处以20万瑞典克朗(约合人民币15万元)的罚款,因为该校通过面部识别技术来监控高中生的出勤情况,这是瑞典首次根据欧盟隐私法规《通用数据保护条例》(GeneralDataProtectionRegulation,GDPR)实施罚款。在该校的实验计划中,一共在三周时间内跟踪监测了22名学生的出勤情况,这些学生每次进入教室时都会录制面部信息。在这项测试任务进行之前,确实获得了学生自己以及他们父母的许可。但是,瑞典数据保护局(DPA)的结论是,该计划仍然违反了GDPR的若干条款,因此会对非法收集数据的校方处以罚款。DPA认为,面部识别技术侵犯了学生的隐私,同时强调,监控学生出勤率可以采用不侵犯隐私的方式,使用一些不涉及摄像监控的方法。

  安德斯托普高中校长约根·马尔姆对罚款的结果表示惊讶,“这个结果并不好。而且这个决定很有意思,因为我们处理信息的方式,以及如何在学校的环境下开发IT技术是一个很大的问题。”参与这项实验的学生哈里认为,罚款是“不公正的”。

  技术的使用须有边界

  科技飞速发展,人脸识别作为人工智能的一个重要领域,已经大量出现在我们的生活中,从手机解锁到刷脸支付,甚至上下班都要用人脸识别打卡、进出……那么对于这项技术,我们需要有所敬畏吗?

  西方国家似乎对于技术的使用更加保守。比如在美国,面部识别的推进就困难重重。今年5月,旧金山成为美国第一个禁止面部识别监控的城市。一个月后,美国国会两党在一场国会听证会上正式讨论了对执法部门使用面部识别软件所带来的日益增长的担忧。两党一致认为,面部识别软件有侵犯公民隐私权和抗议权的隐忧,寻求立法暂停此类工具的使用。包括面部识别软件专家在内的团队认为,在更完善的监管出台或技术充分成熟之前,此类面部识别工具应由国家叫停。7月,美国又一城市通过了禁止在公共场所使用面部识别软件的法令,成为继旧金山之后全美第二个禁止面部识别技术的城市。新政策生效后,马萨诸塞州的萨默维尔市各机构、分局或下属部门,均不得在公共场所使用面部识别技术。

  除了立法的监管,科技巨头在技术的使用上也需要谨慎。今年6月,微软删除了包含1000万张人脸图像的全球最大公开面部识别数据库MSCeleb。该数据库最初于2016年发布,被微软描述为世界上最大的公开面部识别数据库,并用于培训全球科技公司和军事研究人员的面部识别系统。

  GDPR是在欧盟法律中对所有欧盟个人关于数据保护和隐私的规范,涉及了欧洲境外的个人资料出口,其主要为取回公民以及住民对于个人资料的控制,以及为了国际商务而简化在欧盟内的统一规范。GDPR取代了欧盟在1995年推出的欧盟个人资料《数据保护指令》(DataProtectionDirective),该条例包含有关处理欧盟内部数据主体的个人可识别资讯的条款和要求,适用于与欧洲做生意的所有企业。该法案于2018年5月25日起强制执行。

  截至目前,欧盟各国以及英国已经根据GDPR对多个企业进行了处罚,其中罚款额度最高的超过2亿美元,被处罚的企业涉及各个行业。2019年7月8日,英国监管机构信息委员会办公室(ICO)决定对英国航空公司开出1.83亿英镑的罚单,原因是该公司的大量用户信息被转移至欺诈网站上,攻击者通过虚假的英国航空公司网站收集了大约50万乘客的个人信息。此次信息泄露已经持续了一年有余,航空公司方面负有不可推卸的安全责任。

  我国也有相关的标准来规范数据保护。2018年5月1日,《信息安全技术个人信息安全规范》明确规定:收集个人信息前,应向个人信息主体明确告知所提供产品或服务的不同业务功能分别收集的个人信息类型,以及收集、使用个人信息的规则(例如收集和使用个人信息的目的、收集方式和频率、存放地域、存储期限、自身的数据安全能力、对外共享、转让、公开披露的有关情况等),并获得个人信息主体的授权同意。有规范是第一步,具体的落实需要各方共同努力。

  最近,AI换脸应用被推到舆论风暴的中心,再次印证了大家对于隐私保护的担忧。在AI时代,如何权衡技术的发展与隐私的保护,值得我们深思。

相关专题:

加载中...
加载中...