人类灭绝了怎么办?AI机器人精挑圣母少女,培育永不自私的人类

2020-01-29     福利电影社

今天要推荐一部细思极恐的科幻电影,它并不冷门,因为去年豆瓣电影科幻电影前10名里,就有它。

但看过它的人不算多,看懂它的人更少——


《吾乃母亲》

I Am Mother(2019)



未来,地球。


人类已正式灭绝,数量:000。



某一日,一座大型基地里的机器人开始了一次复杂操作。


它按预设程序,开始了操作.....



首先取出人类胚胎,这个胚胎已经受精,并已确定好性别,女性。


如果你去看这部电影,提醒你一定注意看代号,APX01。



然后机器人把胚胎放入营养液里,通过细如发丝的管道为胚胎输送营养。


机器人设定好各项检测程序,按时间,定期加入各种营养液,看着胚胎逐渐发育成熟.....



孩子很快哇哇落地,按测量指标显示,孩子的各项情况一切良好。


机器人充当了母亲的角色,它做了所有母亲该做的事,比如哄孩子,喂奶、换尿布。当然,都是按程序设定的。



小女孩很快长大了,她从来没见过别的人类,对外界没有任何了解。


按照程序的设定,机器人开始教她说话,让她认识玩具,学习简单的字符音节,叫机器人为妈妈......


小女孩非常听话,完全服从机器人妈妈的安排,每天学习大量的科学、医疗、人文知识。



在学习过程中,小女孩知道了自己是目前这个星球上唯一的人类。


她也了解到,人类灭绝是人类自己毁了自己,地球也随之大毁灭,于是她对人类产生了一种天生的恐惧和排斥。



但机器人妈妈告诉她,人类也是很善良的,曾经让地球很美好。


生而为人,应该自豪。



机器人妈妈还答应,如果小女孩表现优秀,通过了定期考核,就会让她选一个孩子来培育,以后可以作伴。



小女孩很开心,想到自己有一个玩伴,还可以当作弟弟妹妹照顾,那真是太有意思了。


于是她努力学习,非常勤奋地按照机器人妈妈布置的课程学习,进步飞速。


有一天,她遇到了一次停电故障,发现了一只老鼠。


她从来没见过这种生物,于是又惊又喜把老鼠藏在了杯子里。


等机器人妈妈恢复电力之后,她问机器人既然老鼠是借着故障从外面来的,是不是外面环境已经开始适合人类居住了?



机器人妈妈非常“生气”,这样违反规矩的操作简直是大逆不道!


二话不说,机器人把老鼠立马火烧了.....


作为惩罚,小女孩要接受高阶考试,其中有一道问题是这样——


五个得了绝症的病人奄奄一息,此时送来一个重病患者,他可以被治愈,有五个人都匹配的器官。


如果医生故意延误这个新病人的治疗,牺牲这个新病人,让五个人获救,


你同意吗?






先不说小女孩如何选择,你会如何选?


牺牲一个人救五个人,还是救一个人让五个人慢慢死去?


无论是谁,遇到这种问题,都会非常难选择吧。


何况这是一个从未见过其他人类的孩子.....


小女孩犹豫了,迟迟做不出选择。




机器人妈妈则认为——


你不觉得每个人类都有内在价值,有平等的生命权和幸福权吗?


生命都是美好的,不能牺牲个体生命为代价,去换取所谓的利益。



小女孩对这个答案并不满意,因为老鼠那件事,她第一次产生了不满,对机器人妈妈的说法产生了怀疑,这样做真的合适吗?


就在几天后,她在门口隐约听到了外面的人类呼救声,对方是一位女性,呼喊着需要帮助.....



小女孩趁着机器人妈妈充电,偷偷打开了大门,看到了这位不速来客.....


一位长发女性,走路一瘸一拐,似乎受了伤......



小女孩无比激动,终于亲眼看到一个人类,还是个女性。


更重要的是,这证明外面的环境已经适合人类居住,可能外面还有更多人类,自己也可以多到外面走动了.....


她把这个神秘女人放在了一个隐蔽的地方,还去拿药给女人治疗。



但在这样的基地里,小女孩做的事怎么可能瞒得住机器人。


很快机器人妈妈发现了这个女人,在极其短暂的短兵相接之后,结果毫无意外.....



神秘女人被关进了医疗室,因为机器人发现她身上有伤,“好意”提供医疗救助。


但这个女人并不领情,十分有攻击性,还不断用言语攻击机器人。


小女孩通过对话了解到,其实人类根本没有灭绝.....


幸存人类跟目前通知地球的机器人不断发生冲突,但从来没赢过,只能转入地下斗争。


而机器人妈妈也并不限制小女孩跟这个神秘女人聊天,这个女人说机器人罪不可赦,坐下了许多罪恶滔天的坏事,人类的灭绝就是跟机器人有关.....





小女孩将信将疑,双方的话差别这么大,到底该信谁?


因为老鼠的事,让她第一次怀疑机器人妈妈,它隐瞒事实背后到底为了什么?


随着神秘女人的到来,她知道自己的怀疑是对的。


但机器人妈妈长期以来的教导,尊重所有生命,接受外来人类的友善态度,让她也很犹豫,不知道如何是好.....



按照时间安排,小女孩接受了一次全面体检和高阶考试,这次顺利通过。


机器人妈妈遵守承诺,按约定发放奖励,让小女孩选择了一个胚胎发育。



小女孩选择了一个男性胚胎,因为她想要一个弟弟。


再次提醒,编号,29。





男性胚胎发育的非常顺利,过了不久,孩子就呱呱落地。


目睹了整个过程的小女孩母爱心泛滥,她幸福地靠在了机器人妈妈的肩膀上.....



可是另一边,小女孩与神秘女人聊天越来越深入,对方拿出了更多人类生存的证据,还跟她讲了许多人类被机器人杀害的故事。


小女孩的世界观慢慢开始崩塌,她对机器人妈妈的怀疑越来越重,但跟第一次老鼠事件发生争论不同,她这一次选择了自己调查。


她在机器人妈妈的手臂里发现了代号APX02的资料,也是女性,但任务失败.....



她还在焚烧槽里,发现了人类的牙齿,这说明机器人早就开始了实验,结果失败了。


而她不过是最新一次试验的样品而已,如果失败,她的命运必将是送到这里被焚烧.....



事实这样,那就逃吧。


她和神秘女人带上弟弟,准备偷偷溜走,没想到,她们的计划早就被机器人知悉,提前把基地封锁了。


危急关头,神秘女人拿起手术刀,把小女孩当成了人质,威胁机器人。


机器人妈妈会妥协吗?


令人意外,它让步了,放走了神秘女人和小女孩......



小女孩和神秘女人逃出了基地,外面的世界还真不是机器人妈妈说的那样毁天灭地,虽然看不到几根草,但逐渐开始恢复绿色....




逃出生天之后,神秘女人也坦白了,说自己编的都是假话,因为人类互相残杀,她受了伤走投无路所以才冒险求救。


为了逃出基地,她故意取信于小女孩,骗取了帮助者才能逃出来。



她也很久没见过人类了,根本不知道该怎么生存。


恍然大悟的小女孩对人性有了新的看法,她不再相信这个女人,她要重返基地救回自己的弟弟......



而神秘女人拼命阻拦,告诉她,只要一返回基地就会被机器人射杀,毫无例外。


但小女孩心意已定,她一定要回去,救自己的弟弟......



《吾乃母亲》这部科幻电影,并不是什么大制作,题材也非常冷门。


它并不是商业大片,也不是大家喜闻乐见的灾难、星战题材,而是对准了科技发展与人类伦理的冲突,还有对AI智能前景的哲学思考——


人工智能到底能不能超越人类?



它犹如一本哲学书籍,偏冷、生涩、相对无趣,但沉浸其中,却又会有些异常的收获。


电影中讨论的“杀一人救五人”命题,就是一场著名的伦理论辩题。



历史上,英国哲学家边沁提出了功利原则, “善” 就是最大地增加了幸福的总量,并且引起了最少的痛楚;“恶”则反之。

以功利原则为价值判断基石,边沁认为:


快乐就是好的,痛苦就是坏的,因为人的行为都趋利避害。


所以任何正确的行动和政治方针都必须做到产生最多数人的最大幸福,并且将痛苦缩减到最少,甚至在必要情况下可以牺牲少部分人的利益。这就是著名的“最大的幸福原则”。


如果为了救人而牺牲人类,那么救人还是不是正义的?


而没有任何经历,从未了解现实世界的小女孩会做出什么样的选择呢?


我估计很多人会很好奇,你可以看下面的剧透(剧透预警提醒,往下看后果自负),也可以自己去看电影。这个思考题留给你,欢迎来留言赐教。



【剧透预警】


第一,小女孩返回基地,冒着生命危险救下了弟弟,彰显出伟大的人性,尊重所有生命。

她通过了最后的终极审核,成了“圣母”。

这也代表AI智能的伟大胜利,它们教出了拥有完美无瑕道德准则的人类,世界和平了,地球有救了。

没有缺点的人工智能,终将代替天生有瑕疵的人类。


第二,神秘女人到底什么来头?

一句台词就能解释,人人都是试验品。神秘女人就是失败的试验品APX01号,机器人故意放而不杀。

她也是机器人设置考验小女孩的终极问题之一,自私逃避现实问题,还是牺牲自己救回别人?

显然,神秘女人并不是机器人想要的答案,拥有“圣母心”的小女孩才是成功的实验品,因为重新塑造人类,消灭人类自私的缺陷,需要真正大公无私的圣母.....


文章来源: https://twgreatdaily.com/zh-hans/PJKa9G8B3uTiws8Kl2Fz.html