被AI监控的孩子:我们的未来都被打上了马赛克

2019-08-28   电影集中营

前段时间厂长刚刚撸过一部剧,讲人工智能的,剧情超刺激。

大致内容是说,在未来社会,由于机器人的普及,他们随时都有可能会威胁人类的地位。

没办法,谁让同房这活儿都能干呢。

实在是太聪明了

所以当时我就在想,机器逐渐人类化,这到底算不算得上是一种进步?

结果没成想,这事还没思考明白,AI竟已经走进了校园。

什么是AI?

坦白说,在厂长的概念里,AI最大的用处就是便利生活。

比如智能家居,智能安防,智能物流,这些技术的存在其实都可以很好的适应于社会。

包括让AI走进校园,也能对学生起到一些积极的作用。

最常见的,就像上图那样,AI可以加固校园的安保系统,以此来降低或减少更多的事故和意外。

更有网友称,如果早有AI坐镇,说不定发生在我们周围的校园霸凌就不会有那么多。

更别说老师随意体罚,随意侵害?

根本不存在的。

如此看来,AI走进校园貌似没什么问题,而且早在今年之前,这项活动就已经默默启动了。

但厂长在看了大数据以后,还是有被吓到。

因为如今学校所运用到的AI技术,真的和我们想象中的大不一样。

首先来看一张图——

学生行为自动分析。

如果没有文字解释,大家估计很难弄明白这个分析究竟是怎么一回事,但根据厂长所圈出的部分,我们大致可以了解到:

在AI的捕捉下,学生们的坐姿,发言,及站立情况,哪怕是几分几秒时有人打了个哈欠,老师们都能看得一清二楚。

不仅如此,孩子们在课堂上抬头、低头的情况也都被AI记录在案。

如下图,绿框的都是仰头状,而红框的,则是没有看向黑板的。

这就是所谓的行为识别及专注度识别。

更厉害的一点的,甚至能识别出学生桌上是否放有非学习相关的物品。

就连他们的情绪,也都在机器的掌控之中。

是的,你没看错。

高兴、难过、害怕……这一系列的表情都会有一个详细的检测结果。

然后,老师再根据这个东西去分别对待每一位学生。

包括上面提及到的行为识别,也会影响到老师对待学生的态度。

这绝不是在危言耸听。

看这张图,情绪不对或表现不好的学生立马就会被识别出来。

当然,这个AI系统也不是只做当下的那一种,它会根据一定时间的积累,将每一个学生都贴上标签,最后以数据库的形式展现给老师。

对比之下,咱们小时候的经历根本不算什么——

顶多是在注意力不集中时突然被站在背后的班主任给训斥一番,又或者,在成绩不理想时被家长们念叨念叨。

可你要知道,AI系统它是全年无休,全方位审视的。

也就是说,孩子们基本无法拥有隐私和自由,并且他们的任何一种表现,都有可能影响到自己的学习与生活。

这就有些违背AI的初衷了吧?

适当利用高科技或许还能造福人类,可一旦用过了头,科技就必然会反过来吞噬我们。

就像AI走进校园所发挥的作用——

我不觉得它这是“利于成长”。

最重要的,AI技术从某种方面来说,也给了家长们一个监控孩子的理由。

试想想,当老师将这份详细的信息再反馈给家长们,孩子还有什么可呼吸的空间?

所以说,人这么多变又神奇的物种,实在不该由一台只会计算的机器去控制。

说到这儿,厂长又想起一部剧,在《黑镜》中的第四季有这样一个故事:

由于3岁小女孩莎拉意外走失,她的妈妈被激发起了强烈的保护欲。

于是,她向一个科技公司求助,给女儿大脑植入了一款芯片。

在这款智能芯片的控制下,小女孩的思想,注意力,全都掌握在妈妈的手中。

从某种程度上来说,这可比AI厉害多了。

比如妈妈不仅可以通过手中的平板对小女孩进行实时监控,而且还能随时知道小女孩的位置。

以及小女孩当前的身体状况。

甚至连她身体里缺少哪种微量元素,都明明白白地显示在大屏幕上。

更让人不可思议的是,这款芯片配套的控制器可以直接展示女儿视网膜上所接收到的信号。

也就是说,妈妈可以随时看到女儿眼中世界。

甚至,可以控制女儿看到的内容。

只要出现让小女孩产生压力的画面时,比如少儿不宜的黄暴场景,她眼前就会自动打上马赛克。

之后,小女孩眼中的世界就变成这样了。

邻居家院子里总会吓到小女孩的恶犬。

男生打架时的流血场面。

这些令小女孩害怕的画面而导致生理指标变化,系统检测到之后,她看到的画面就是一团模糊的马赛克。

是的,她看不到血液,听不到粗话……小女孩生活在被过滤的世界中。

看似是一个美好的世界,可是美好的背后,也剥夺了她对整个世界的真实感知。

面对中风摔倒的外公,小女孩看到的只是一片模糊,因为眼前的景象让她紧张。

就连外公去世后,妈妈脸上悲伤的表情都成为了小女孩的压力源,她无法看到任何负性情绪的表达。

渐渐的,小女孩长大了,也觉得自己不太正常了。

大约在小学阶段,她用红色彩笔画的血居然也被打上了马赛克。

可能就是越看不到就越好奇,后来她开始试图用铅笔扎自己的手,想看一下流血的样子。

当出现自残行为之后,系统自动监测到血腥信号,警报声立马响起,妈妈很快就赶了过来。

当看完医生以后,的确是发现了孩子有心理问题。

所以听从了医生的话,为了让孩子正常成长,母亲决定关掉系统,答应孩子不再监视孩子生活。

可是女孩慢慢长大之后在面对这个真实的世界时,并没有与之匹配的风险评估能力。

她在毫无安全措施的情况下和男孩发生性行为,甚至尝试毒品。

而这再一次引起了警报的响起,母亲不得已再次打开平板开始了监控女儿生活的模式。

这一举动,彻底激怒了女儿,她甚至拿起平板砸向了妈妈的头,但对此她毫无感觉。

因为母亲血淋淋的头早已被打上了马赛克。

这场悲剧何尝不是以爱的名义进行无休止的控制与禁锢孩子呢。

当发生冲突时,女儿质问对母亲说:“你还在监视我?”母亲回答:“我做的一切都是为了你。

看看,这一幕是何其的相似,在最近的热播剧《小欢喜》中乔英子何尝不是被妈妈强烈的“控制欲”一步一步的被逼到要跳河。

从前开朗的英子到后期整夜整夜的失眠,甚至得了抑郁症。

她疯了一般的想要逃离妈妈,可在妈妈看来这一切都是为了你好。

可是在这场“借爱之名”的监控下,有谁真正考虑过孩子的感受?

那些现如今正在被AI监控的孩子们,时时刻刻都在被监控,脑控。他们的处境和被妈妈植入芯片,用来监控一举一动的小女孩又有什么分别?

孩子是有血有肉有情感的,他们不是机器人!

所以,我实名反对AI走进校园。

因为这些看似详尽的大数据,实际上是亲手喂给孩子们的毒药。