人類滅絕了怎麼辦?AI機器人精挑聖母少女,培育永不自私的人類

2020-01-29     福利電影社

今天要推薦一部細思極恐的科幻電影,它並不冷門,因為去年豆瓣電影科幻電影前10名里,就有它。

但看過它的人不算多,看懂它的人更少——


《吾乃母親》

I Am Mother(2019)



未來,地球。


人類已正式滅絕,數量:000。



某一日,一座大型基地里的機器人開始了一次複雜操作。


它按預設程序,開始了操作.....



首先取出人類胚胎,這個胚胎已經受精,並已確定好性別,女性。


如果你去看這部電影,提醒你一定注意看代號,APX01。



然後機器人把胚胎放入營養液里,通過細如髮絲的管道為胚胎輸送營養。


機器人設定好各項檢測程序,按時間,定期加入各種營養液,看著胚胎逐漸發育成熟.....



孩子很快哇哇落地,按測量指標顯示,孩子的各項情況一切良好。


機器人充當了母親的角色,它做了所有母親該做的事,比如哄孩子,喂奶、換尿布。當然,都是按程序設定的。



小女孩很快長大了,她從來沒見過別的人類,對外界沒有任何了解。


按照程序的設定,機器人開始教她說話,讓她認識玩具,學習簡單的字符音節,叫機器人為媽媽......


小女孩非常聽話,完全服從機器人媽媽的安排,每天學習大量的科學、醫療、人文知識。



在學習過程中,小女孩知道了自己是目前這個星球上唯一的人類。


她也了解到,人類滅絕是人類自己毀了自己,地球也隨之大毀滅,於是她對人類產生了一種天生的恐懼和排斥。



但機器人媽媽告訴她,人類也是很善良的,曾經讓地球很美好。


生而為人,應該自豪。



機器人媽媽還答應,如果小女孩表現優秀,通過了定期考核,就會讓她選一個孩子來培育,以後可以作伴。



小女孩很開心,想到自己有一個玩伴,還可以當作弟弟妹妹照顧,那真是太有意思了。


於是她努力學習,非常勤奮地按照機器人媽媽布置的課程學習,進步飛速。


有一天,她遇到了一次停電故障,發現了一隻老鼠。


她從來沒見過這種生物,於是又驚又喜把老鼠藏在了杯子裡。


等機器人媽媽恢復電力之後,她問機器人既然老鼠是借著故障從外面來的,是不是外面環境已經開始適合人類居住了?



機器人媽媽非常「生氣」,這樣違反規矩的操作簡直是大逆不道!


二話不說,機器人把老鼠立馬火燒了.....


作為懲罰,小女孩要接受高階考試,其中有一道問題是這樣——


五個得了絕症的病人奄奄一息,此時送來一個重病患者,他可以被治癒,有五個人都匹配的器官。


如果醫生故意延誤這個新病人的治療,犧牲這個新病人,讓五個人獲救,


你同意嗎?






先不說小女孩如何選擇,你會如何選?


犧牲一個人救五個人,還是救一個人讓五個人慢慢死去?


無論是誰,遇到這種問題,都會非常難選擇吧。


何況這是一個從未見過其他人類的孩子.....


小女孩猶豫了,遲遲做不出選擇。




機器人媽媽則認為——


你不覺得每個人類都有內在價值,有平等的生命權和幸福權嗎?


生命都是美好的,不能犧牲個體生命為代價,去換取所謂的利益。



小女孩對這個答案並不滿意,因為老鼠那件事,她第一次產生了不滿,對機器人媽媽的說法產生了懷疑,這樣做真的合適嗎?


就在幾天後,她在門口隱約聽到了外面的人類呼救聲,對方是一位女性,呼喊著需要幫助.....



小女孩趁著機器人媽媽充電,偷偷打開了大門,看到了這位不速來客.....


一位長發女性,走路一瘸一拐,似乎受了傷......



小女孩無比激動,終於親眼看到一個人類,還是個女性。


更重要的是,這證明外面的環境已經適合人類居住,可能外面還有更多人類,自己也可以多到外面走動了.....


她把這個神秘女人放在了一個隱蔽的地方,還去拿藥給女人治療。



但在這樣的基地里,小女孩做的事怎麼可能瞞得住機器人。


很快機器人媽媽發現了這個女人,在極其短暫的短兵相接之後,結果毫無意外.....



神秘女人被關進了醫療室,因為機器人發現她身上有傷,「好意」提供醫療救助。


但這個女人並不領情,十分有攻擊性,還不斷用言語攻擊機器人。


小女孩通過對話了解到,其實人類根本沒有滅絕.....


倖存人類跟目前通知地球的機器人不斷發生衝突,但從來沒贏過,只能轉入地下鬥爭。


而機器人媽媽也並不限制小女孩跟這個神秘女人聊天,這個女人說機器人罪不可赦,坐下了許多罪惡滔天的壞事,人類的滅絕就是跟機器人有關.....





小女孩將信將疑,雙方的話差別這麼大,到底該信誰?


因為老鼠的事,讓她第一次懷疑機器人媽媽,它隱瞞事實背後到底為了什麼?


隨著神秘女人的到來,她知道自己的懷疑是對的。


但機器人媽媽長期以來的教導,尊重所有生命,接受外來人類的友善態度,讓她也很猶豫,不知道如何是好.....



按照時間安排,小女孩接受了一次全面體檢和高階考試,這次順利通過。


機器人媽媽遵守承諾,按約定發放獎勵,讓小女孩選擇了一個胚胎髮育。



小女孩選擇了一個男性胚胎,因為她想要一個弟弟。


再次提醒,編號,29。





男性胚胎髮育的非常順利,過了不久,孩子就呱呱落地。


目睹了整個過程的小女孩母愛心泛濫,她幸福地靠在了機器人媽媽的肩膀上.....



可是另一邊,小女孩與神秘女人聊天越來越深入,對方拿出了更多人類生存的證據,還跟她講了許多人類被機器人殺害的故事。


小女孩的世界觀慢慢開始崩塌,她對機器人媽媽的懷疑越來越重,但跟第一次老鼠事件發生爭論不同,她這一次選擇了自己調查。


她在機器人媽媽的手臂里發現了代號APX02的資料,也是女性,但任務失敗.....



她還在焚燒槽里,發現了人類的牙齒,這說明機器人早就開始了實驗,結果失敗了。


而她不過是最新一次試驗的樣品而已,如果失敗,她的命運必將是送到這裡被焚燒.....



事實這樣,那就逃吧。


她和神秘女人帶上弟弟,準備偷偷溜走,沒想到,她們的計劃早就被機器人知悉,提前把基地封鎖了。


危急關頭,神秘女人拿起手術刀,把小女孩當成了人質,威脅機器人。


機器人媽媽會妥協嗎?


令人意外,它讓步了,放走了神秘女人和小女孩......



小女孩和神秘女人逃出了基地,外面的世界還真不是機器人媽媽說的那樣毀天滅地,雖然看不到幾根草,但逐漸開始恢復綠色....




逃出生天之後,神秘女人也坦白了,說自己編的都是假話,因為人類互相殘殺,她受了傷走投無路所以才冒險求救。


為了逃出基地,她故意取信於小女孩,騙取了幫助者才能逃出來。



她也很久沒見過人類了,根本不知道該怎麼生存。


恍然大悟的小女孩對人性有了新的看法,她不再相信這個女人,她要重返基地救回自己的弟弟......



而神秘女人拚命阻攔,告訴她,只要一返回基地就會被機器人射殺,毫無例外。


但小女孩心意已定,她一定要回去,救自己的弟弟......



《吾乃母親》這部科幻電影,並不是什麼大製作,題材也非常冷門。


它並不是商業大片,也不是大家喜聞樂見的災難、星戰題材,而是對準了科技發展與人類倫理的衝突,還有對AI智能前景的哲學思考——


人工智慧到底能不能超越人類?



它猶如一本哲學書籍,偏冷、生澀、相對無趣,但沉浸其中,卻又會有些異常的收穫。


電影中討論的「殺一人救五人」命題,就是一場著名的倫理論辯題。



歷史上,英國哲學家邊沁提出了功利原則, 「善」 就是最大地增加了幸福的總量,並且引起了最少的痛楚;「惡」則反之。

以功利原則為價值判斷基石,邊沁認為:


快樂就是好的,痛苦就是壞的,因為人的行為都趨利避害。


所以任何正確的行動和政治方針都必須做到產生最多數人的最大幸福,並且將痛苦縮減到最少,甚至在必要情況下可以犧牲少部分人的利益。這就是著名的「最大的幸福原則」。


如果為了救人而犧牲人類,那麼救人還是不是正義的?


而沒有任何經歷,從未了解現實世界的小女孩會做出什麼樣的選擇呢?


我估計很多人會很好奇,你可以看下面的劇透(劇透預警提醒,往下看後果自負),也可以自己去看電影。這個思考題留給你,歡迎來留言賜教。



【劇透預警】


第一,小女孩返回基地,冒著生命危險救下了弟弟,彰顯出偉大的人性,尊重所有生命。

她通過了最後的終極審核,成了「聖母」。

這也代表AI智能的偉大勝利,它們教出了擁有完美無瑕道德準則的人類,世界和平了,地球有救了。

沒有缺點的人工智慧,終將代替天生有瑕疵的人類。


第二,神秘女人到底什麼來頭?

一句台詞就能解釋,人人都是試驗品。神秘女人就是失敗的試驗品APX01號,機器人故意放而不殺。

她也是機器人設置考驗小女孩的終極問題之一,自私逃避現實問題,還是犧牲自己救回別人?

顯然,神秘女人並不是機器人想要的答案,擁有「聖母心」的小女孩才是成功的實驗品,因為重新塑造人類,消滅人類自私的缺陷,需要真正大公無私的聖母.....


文章來源: https://twgreatdaily.com/zh-hk/PJKa9G8B3uTiws8Kl2Fz.html