前段时间厂长刚刚撸过一部剧,讲人工智能的,剧情超刺激。
大致内容是说,在未来社会,由于机器人的普及,他们随时都有可能会威胁人类的地位。
没办法,谁让同房这活儿都能干呢。
实在是太聪明了
所以当时我就在想,机器逐渐人类化,这到底算不算得上是一种进步?
结果没成想,这事还没思考明白,AI竟已经走进了校园。
什么是AI?
坦白说,在厂长的概念里,AI最大的用处就是便利生活。
比如智能家居,智能安防,智能物流,这些技术的存在其实都可以很好的适应于社会。
包括让AI走进校园,也能对学生起到一些积极的作用。
最常见的,就像上图那样,AI可以加固校园的安保系统,以此来降低或减少更多的事故和意外。
更有网友称,如果早有AI坐镇,说不定发生在我们周围的校园霸凌就不会有那么多。
更别说老师随意体罚,随意侵害?
根本不存在的。
如此看来,AI走进校园貌似没什么问题,而且早在今年之前,这项活动就已经默默启动了。
但厂长在看了大数据以后,还是有被吓到。
因为如今学校所运用到的AI技术,真的和我们想象中的大不一样。
首先来看一张图——
学生行为自动分析。
如果没有文字解释,大家估计很难弄明白这个分析究竟是怎么一回事,但根据厂长所圈出的部分,我们大致可以了解到:
在AI的捕捉下,学生们的坐姿,发言,及站立情况,哪怕是几分几秒时有人打了个哈欠,老师们都能看得一清二楚。
不仅如此,孩子们在课堂上抬头、低头的情况也都被AI记录在案。
如下图,绿框的都是仰头状,而红框的,则是没有看向黑板的。
这就是所谓的行为识别及专注度识别。
更厉害的一点的,甚至能识别出学生桌上是否放有非学习相关的物品。
就连他们的情绪,也都在机器的掌控之中。
是的,你没看错。
高兴、难过、害怕……这一系列的表情都会有一个详细的检测结果。
然后,老师再根据这个东西去分别对待每一位学生。
包括上面提及到的行为识别,也会影响到老师对待学生的态度。
这绝不是在危言耸听。
看这张图,情绪不对或表现不好的学生立马就会被识别出来。
当然,这个AI系统也不是只做当下的那一种,它会根据一定时间的积累,将每一个学生都贴上标签,最后以数据库的形式展现给老师。
对比之下,咱们小时候的经历根本不算什么——
顶多是在注意力不集中时突然被站在背后的班主任给训斥一番,又或者,在成绩不理想时被家长们念叨念叨。
可你要知道,AI系统它是全年无休,全方位审视的。
也就是说,孩子们基本无法拥有隐私和自由,并且他们的任何一种表现,都有可能影响到自己的学习与生活。
这就有些违背AI的初衷了吧?
适当利用高科技或许还能造福人类,可一旦用过了头,科技就必然会反过来吞噬我们。
就像AI走进校园所发挥的作用——
我不觉得它这是“利于成长”。
最重要的,AI技术从某种方面来说,也给了家长们一个监控孩子的理由。
试想想,当老师将这份详细的信息再反馈给家长们,孩子还有什么可呼吸的空间?
所以说,人这么多变又神奇的物种,实在不该由一台只会计算的机器去控制。
说到这儿,厂长又想起一部剧,在《黑镜》中的第四季有这样一个故事:
由于3岁小女孩莎拉意外走失,她的妈妈被激发起了强烈的保护欲。
于是,她向一个科技公司求助,给女儿大脑植入了一款芯片。
在这款智能芯片的控制下,小女孩的思想,注意力,全都掌握在妈妈的手中。
从某种程度上来说,这可比AI厉害多了。
比如妈妈不仅可以通过手中的平板对小女孩进行实时监控,而且还能随时知道小女孩的位置。
以及小女孩当前的身体状况。
甚至连她身体里缺少哪种微量元素,都明明白白地显示在大屏幕上。
更让人不可思议的是,这款芯片配套的控制器可以直接展示女儿视网膜上所接收到的信号。
也就是说,妈妈可以随时看到女儿眼中世界。
甚至,可以控制女儿看到的内容。
只要出现让小女孩产生压力的画面时,比如少儿不宜的黄暴场景,她眼前就会自动打上马赛克。
之后,小女孩眼中的世界就变成这样了。
邻居家院子里总会吓到小女孩的恶犬。
男生打架时的流血场面。
这些令小女孩害怕的画面而导致生理指标变化,系统检测到之后,她看到的画面就是一团模糊的马赛克。
是的,她看不到血液,听不到粗话……小女孩生活在被过滤的世界中。
看似是一个美好的世界,可是美好的背后,也剥夺了她对整个世界的真实感知。
面对中风摔倒的外公,小女孩看到的只是一片模糊,因为眼前的景象让她紧张。
就连外公去世后,妈妈脸上悲伤的表情都成为了小女孩的压力源,她无法看到任何负性情绪的表达。
渐渐的,小女孩长大了,也觉得自己不太正常了。
大约在小学阶段,她用红色彩笔画的血居然也被打上了马赛克。
可能就是越看不到就越好奇,后来她开始试图用铅笔扎自己的手,想看一下流血的样子。
当出现自残行为之后,系统自动监测到血腥信号,警报声立马响起,妈妈很快就赶了过来。
当看完医生以后,的确是发现了孩子有心理问题。
所以听从了医生的话,为了让孩子正常成长,母亲决定关掉系统,答应孩子不再监视孩子生活。
可是女孩慢慢长大之后在面对这个真实的世界时,并没有与之匹配的风险评估能力。
她在毫无安全措施的情况下和男孩发生性行为,甚至尝试毒品。
而这再一次引起了警报的响起,母亲不得已再次打开平板开始了监控女儿生活的模式。
这一举动,彻底激怒了女儿,她甚至拿起平板砸向了妈妈的头,但对此她毫无感觉。
因为母亲血淋淋的头早已被打上了马赛克。
这场悲剧何尝不是以爱的名义进行无休止的控制与禁锢孩子呢。
当发生冲突时,女儿质问对母亲说:“你还在监视我?”母亲回答:“我做的一切都是为了你。”
看看,这一幕是何其的相似,在最近的热播剧《小欢喜》中乔英子何尝不是被妈妈强烈的“控制欲”一步一步的被逼到要跳河。
从前开朗的英子到后期整夜整夜的失眠,甚至得了抑郁症。
她疯了一般的想要逃离妈妈,可在妈妈看来这一切都是为了你好。
可是在这场“借爱之名”的监控下,有谁真正考虑过孩子的感受?
那些现如今正在被AI监控的孩子们,时时刻刻都在被监控,脑控。他们的处境和被妈妈植入芯片,用来监控一举一动的小女孩又有什么分别?
孩子是有血有肉有情感的,他们不是机器人!
所以,我实名反对AI走进校园。
因为这些看似详尽的大数据,实际上是亲手喂给孩子们的毒药。