最近看了一个新闻,不禁感叹,要说惨还是学生惨。学生时代,最怕的就是上课看小说正入迷,一扭头突然发现躲在门后的班主任。
那时和班主任打游击战,勉强算是枯燥学习生活中的一点娱乐。不过时代在进步,科技在发展,学校早就不用老师趴门监控了。
有一家叫旷视科技的公司推出了一种人工智能系统,根据他们的演示,只要在教室里安装一个摄像头,系统就会自动监控分析学生行为,做到360度无死角监视。
这玩意儿长这样
使用效果是这样的
趴桌子0次,玩手机0次,睡觉0次。听讲6次,阅读8次,举手6次。学生课堂表现一目了然,从此妈妈再也不担心孩子上课不听讲了。除了行为分析,它甚至还会分析学生的情绪和表情。
人脸识别加大数据分析,简直技术先锋,厉害了我的学校。这种监视系统一旦推行,只会出现下图这种情况。
学校有摄像头监控,回家有爸妈监控。孩子们必须一直表演学习,一直表演开心,能喘口气算我输。我觉得犯人都比学生们自由吧?
这项“黑科技”背后,是想将所有学生按照规则“标准化”的野心,它的理想状态,就是让学生们成为被机器培育出来的另一个“学习机器”。
当学生被抹杀了个性和自由后,他们怎么还会有主见?即便有,也是被长期压抑出的叛逆。这不是培养学生,这是培养肉鸡。
不得不承认,高考制度注定了中国学生的学习方式是枯燥的,但至少也要给学生们留一些尊严吧?肯定有很多人会说什么学生的任务就是学习,这是为他们好。
但这种“管教”和高压就是过线的,没有任何人有权力进行这样的高压监控。今天学生被监控,人们觉得无所谓。那下一个轮到自己时,还是觉得无所谓吗?
(用于监控南京环卫工的“智能手表”)
9月2日,旷视科技做出回应称这只是演示,旷视会坚持人工智能的正当性和隐私保护。
我就纳闷了,概念演示不早晚有一天要投入使用吗?
没想到还是大势所趋。高科技进校园当然好,可帮助孩子学习的新功能没看到,开发者倒先发明了成套的监视手段。
查了一下,这家旷视科技是由三个清华毕业生创立的,成立8年已经成为国际人工智能技术的领头羊,估值280个亿,光去年就营收14个亿,可以说是前途无量。
不用怀疑,如果这个针对学生的人工智能系统被推行,旷视科技会赚的盆满钵满。学校间也会争相购买,你有我无,那我的学生(升学率)不就被落下了吗?
公司赚钱,家长放心,学校高兴。这场面想象一下,真让人打寒战。但人工智能技术是错误的吗?相反,人工智能技术在现实中有很多正向的应用。
比如大家熟知的旷视天眼系统,人工智能可以通过分析面孔和“在逃犯人数据库”中的人脸进行对比,大大提升警方抓捕逃犯的效率。
深圳警方还将人工智能应用在了“打拐”活动中,
通过让系统学习人类五官的成长规律,用大量的模型和数据对比,找回那些走失十多年的孩子。
也有组织利用人工智能系统分析网友发言行为,搜寻抑郁自杀人群,拦截他们的自杀行为,目前已经成功救下了800多个轻生者。
我就纳闷了,人工智能技术能用来做这么多好事儿,干嘛非用来对付学生?技术的滥用,让我想起了前几天刷屏的ZAO。
刚玩这软件的时候也觉得挺有意思,只不过看了有些女星的脸被换脸到色情片女主角上的小视频后,笑不出来了,因为实在非常逼真。
挺恐惧的毕竟要想用ZAO,必须要上传自己的肖像照和手机号,而且还得点头眨眼的确认,人脸信息收集的相当全。假如ZAO隐私保护做得不够完善,那普通人的人脸信息是不是也有被泄露制作色情片的风险?
退一万步讲,就算没人拿我的脸去制作色情视频,但万一有人拿我的脸去诈骗呢?老年人连电信诈骗还没弄明白呢,又来个视频换脸诈骗,这谁顶得住啊?
果不其然,昨天ZAO就因为隐私泄露+网络诈骗风险,被工信部约谈了。
这真不是瞎担心,看看下面这个“假王源”,谁能分辨出来。
还是那句话,挺好的技术,愣是让有些人给整变味儿了。别人用来抓逃犯找走失儿童,他用来监视学生、制作色情视频、搞网络诈骗。旷视科技的回应说会坚持“技术向善”,但我想说技术不管再怎么向善,如果人不善良,那啥都白扯。