回望2019

回望2019

人脸识别进课堂引争议

文/中国教育网络 王世新
2020-03-24

  过去的一年,人脸识别在教育中的应用似乎特别火。会议刷脸、迎新刷脸、进校门刷脸……而当人脸识别进教室之后,争议开始扩大。

  监控还是“监视”

  2019年秋季学期刚刚开学,一所高校就陷入了巨大的争议中,原因既简单又复杂:该校在新学期用上了人脸识别系统,包括在两间教室试点安装人脸识别系统进行考勤,学生进教室后自动识别个人信息,全程监控学生上课听讲情况,就连发呆、打瞌睡和玩手机等动作都能被识别出来……一时间引发了广泛的社会争议。

  澎湃新闻上一篇《人脸识别进课堂,有必要吗》的文章措辞颇为严厉,其中提到,人脸识别系统虽然智能,却难免会产生误伤和异化。无论从心理学研究来说,还是从老师的教学经验来说,学习态度最认真的,效果最好的,不会是那些总是两眼放光、死盯着老师的学生,学习本来就该给学生“反刍”“走神”的间歇。如果处在AI的时时窥探之下,头有没有低下来,眼睛有没有走神,反而成为学习的主要内容,这会是一种学习的“异化”,技术的“致命的自负”。

  而南方日报《人脸识别进课堂也无妨》的评论则较为和缓,该文章认为,从管理的角度看,课堂本来就是公共场所,学生的本职就是学习,人脸识别就跟“点到”一样,无非是管理方式的创新,无关隐私;而从应用的角度讲,人脸识别只能用作教学目的,如果因为某种目的被扩大化传播,就有可能侵犯学生隐私。

  管控还是管理

  人脸识别进教育产生的争议不仅国内有,全球亦然。瑞典一所高中使用人脸识别系统记录学生的出勤,被认为对学生个人信息的处理不符合欧盟《通用数据保护条例》(GDPR)的规定,监管机构对学校董事会开出金额为20万瑞典克朗(约合人民币14.7万元)的罚单。而在西班牙IE商学院马德里校区,采用人脸识别以确定接受在线教育学生的上课状态则被认为可接受。

  而在教育信息化领域,对于人脸识别进课堂也是大有争议。一方面,有观点认为这是对技术的过度使用,另一方面的观点则认为,这将有助于精准反馈于教学。

  实际上,人脸识别进教室仅是信息时代隐私与技术冲突的一个缩影。更广泛的争议则产生在大数据应用中。北京师范大学副校长陈丽表示,所有信息化监控学生的手段都要注意伦理和隐私问题。目前,监控的技术已经不是问题,所以这不是对技术的考验,而是对如何看待我们与学生关系的考验,是对我们的理念的考验,也是对我们如何认识人的考验。她表示,北京师范大学在技术上已经可以支持监控行为大数据的分析,但学校对此非常保守和慎重,因为伦理和对学生隐私的尊重一定要放在第一位。

  相关人士表示,人脸识别技术进校园存在争议,并不意味着因噎废食。使用它的基本原则,应该是被监控者知情同意和最大程度的隐私保护。

  的确,技术与教育的结合注定不是一个“山不到我这里来,我就到山那边去”的简单过程,必然会出现诸如伦理、隐私等诸多争议和悖论。

  正如2017年发布的《新一代人工智能发展规划》已经预见到的:人工智能是影响面广的颠覆性技术,可能带来改变就业结构、冲击法律与社会伦理、侵犯个人隐私、挑战国际关系准则等问题。如何处理好这些问题,是我们需要积极面对的。