据悉,这是旷视公司开发的“智慧教学”系统,该系统能精准捕捉学生的面部细节,展示诸如听讲、阅读、举手等学习数据,同时也提供了他们
相关信息爆出后,迅速引来了网友们的强烈质疑。许多人怒斥这种新型监控技术是对学生隐私的侵犯,是打着“教学”幌子的“侵犯权利的行为”。
舆论发酵后不久,旷视官方也对此做出了回应,称该场景只是技术的概念化演示,目前旷视的人脸识别大多数都用在智能校门、教室门及宿舍的出入,方便学生安全出入校园。
但这套说辞并没有平息网上的讨伐声,网友们很快便挖出了不久前,梨视频对中国药科大学新学期引入旷世Face++系统的报道。
在梨视频的采访中,校方相关负责的人介绍,这套系统大多数都用在门禁服务,但同时也小范围地进入到课堂教学领域。其能对进入教室的学生进行全程人脸识别,能监测到学生抬头低头,是否玩手机,是否发呆等行为细节。
这使网友们更加坚信,旷世科技本次被爆出的“校园监视”应用,绝不仅仅只是技术的概念化演示,而是实实在在已能商用化的工具。
退一步讲,即便此类AI应用目前只在个别院校小范围试行,这也足以引起大众的质疑与担忧。AI和校园的结合,到底是对隐私、学生自由的侵犯,还是拥有其它更好的用途?而课堂监控系统背后,又反映出怎样的教育方法的理念与市场需求?
旷视科技的监控图像爆出后,很多网友首先联系到这两天同样因AI技术而陷入争议的换脸短视频APP“ZAO”,认为两者都牵涉到对用户隐私权的侵犯。
在知著君看来,在隐私泄漏风险的背后,旷世科技AI监视应用受到大众如此强烈的反对,或许还有更深层的原因。
如果说ZAO的功能定位某些特定的程度上满足了人们合理的娱乐需求,只是在其具体运作与用户协议中存在着隐私保护不周问题的话;那么旷视科技的课堂行为分析系统则从开发设计之初,就存在着极大的伦理道德争议,即它满足的是用户的“过度需求”。
当旷世科技的课堂AI应用受到网友强烈质疑之际,央视一则关于“AI通过童年照片,找回走失15年的孩子”的新闻,获得了网友一边倒的点赞支持,与前者形成强烈舆论反差的同时,也为AI技术的正确使用起到了示范效果。
技术确实是中立的,但其应用上的合理边界,公众内心深处自有判断。将AI用于抓捕逃犯或寻找走失儿童等合适范畴内,自然会收到正面的社会评价与反馈。而将其运用于监控学生课题行为上,则难免招致争议。
近年来,AI落地不一样的行业的声势慢慢的变大,教育场景更是炙手可热。《2019年中国智慧教育行业市场发展及趋势研究报告》多个方面数据显示,2010-2018年中国智慧教育行业规模持续扩大,增速保持在10%以上,2018年市场规模超过5000亿元。
在这一背景下,各式科技新兴企业、教育培训公司、以及互联网巨头纷纷布局智慧校园领域,切入点主要囊括考勤安防、智慧教学、家校互动等方面。
智慧校园建设的的初衷,是帮助实现教育实践的降本增效,这一出发点无疑是值得肯定的,并且目前也取得了一定的初步成果。
但与此同时,一些企业为了在激烈的市场之间的竞争中脱颖而出,对智慧校园产品的开发逻辑与应用场景逐渐从教学安防等延伸到更广泛的校园领域,并不时以惊人的“黑科技”来吸引市场关注,而忽略了新产品应用后可能引发的种种道德争议。
如果仅用来辅助教学,用数据来量化授课效果,那么这套系统还是有意义的。但从目前的反馈的信息来看,它已然超出了相关范畴,变成了对学生行为的一种监控。
如果将技术滥用于学生管理,甚至将数据实时共享给家长,那么AI技术带来的则不是教学效果的提升,反而是另一种“全景敞视监狱”。
进一步来看,旷世科技推出这一技术应用场景演示,此前显然是经过一定的市场调查与研究与用户分析的,这在某些特定的程度上也说明了国内部分教师、家长在教育观念与方式上仍存在一些误区。
家校双方对学生课堂行为的极度关注背后,是“唯结果”论思想的长期影响,这一关注最终仍是与成绩表现以及升学情况挂钩的。教育,似乎日益成为中国各个阶层、每个家庭共同焦虑的问题。
在近期的一部教育类纪录片《他乡的童年》中,身为两个孩子母亲的记者周轶君带着同样的焦虑和疑惑来到了“教育最强国”芬兰,试图寻找某种值得借鉴的经验。在采访的过程中她逐渐发现:芬兰的教师与家长对待孩子教育问题似乎格外“佛系”。
当然,这种摒弃竞争的快乐学习氛围与当地社会现实条件是相互依赖和促进的,并非一蹴而就,也无法直接借鉴。正因为如此,才更要求我们国内教育行业与无数家庭长久、持续的努力,而这一努力仅靠先进的AI技术是远远不足的。
更重要的是,通过技术来对孩子进行跟踪教育,是很难把握好分寸的。正如《黑镜》第四季第二集中,母亲萨姆布瑞尔给女儿萨拉植入了芯片,自己则通过监控器来实时关注并保护孩子。
刚开始,芯片确实为这对母女打来了便捷与安全感。但最终脱离母亲与监视器的萨拉,却因是非判断能力的长期缺失而滑向了更危险的境地。
如今的课堂行为监视与分析系统也暗含着相似的危机。毕竟,人不可能在无菌的环境下生活,孩子在成长过程中自有其发展顺序和规律。若粗暴地以技术干预,那么在机器监视下循规蹈矩的学生,一旦脱离了“监视”环境,则将面对愈加严峻的挑战。
在《他乡的童年》中,我们在芬兰的课堂上能看到的最高科技的设备,应该只是人手一台的ipad吧。
而在技术之外,孩子的教育生涯里还有更重要的元素存在,比如教师对职业的坚守,以及家长对孩子的尊重。