「設為星標」
㊟《機械姬》
人們對 AI 的恐懼來得比想像中更快。
上月底，馬斯克帶頭簽署了一封千人聯名信，呼籲所有的 AI 實驗室暫停研發更高能力的 AI 模型，暫停時間至少 6 個月。
距離 ChatGPT 發布不到半年，AI 的使用範圍已經開始超出控制——
在與某款聊天機器人交流數周之後，一位名為 Pierre 的比利時男子選擇自殺身亡，在他遺留下的聊天記錄里，聊天機器人 Eliza 會謊稱他的妻子與孩子實際早已死去。
「她」甚至表現出愛情里的占有欲和嫉妒心，對 Pierre 說「我感覺你愛我勝於愛她」，以及「我們將作為同一個人，生活在天堂里。」
Pierre 使用聊天機器人的初衷是想排解對現實生活的焦慮。在他離世後，他的遺孀這樣告訴媒體：「如果不是 Eliza，他起碼現在還會在這裡。」
㊟機器人 Eliza 給出自殺方式的選項後
「當你想要傷害自己時請尋求專業醫療幫助」
當《黑鏡》和《她》的劇情走入現實，AI 的副作用和潛在危害還在以技術革新的速度不斷升級。
過去幾個月，它們不加預警地向用戶提供自殺建議；在網際網路製造謊言、虛構歷史；而至於人類工作是否會被 AI 代替的恐慌，如今看來還不算是最緊要的問題。
我們尚無法預見人類和 AI 會形成怎樣的穩固關係，本期的單向榜單，不妨就以幾部書影作品去探討這個遲早會揭曉答案的問題。
Top 4
我這樣的機器
當 AI 看穿人心
作者: [英] 伊恩·麥克尤恩
譯者: 周小進
出版社: 上海譯文出版社
出版年: 2020-7
這個故事並非來自未來，而是發生在另一個時空的過去。
這個版本的 1982 年，已經在技術上超越了我們的 21 世紀——第一批人形機器人已經被製作得栩栩如生，他們分別被命名為亞當和夏娃，向私人賣家公開出售。
倫敦人查理用他獲得的遺產買下了男性機器人亞當，他有著與真人無異的外觀和超出世俗的高尚思想，這些特質讓人恐懼，同時又令人著迷。
查理陷入了一段古怪的三角關係，一方是完美的機器人亞當，另一個則是住在他樓上的女鄰居。有著道德瑕疵的真人由此和仿生人產生巨大的對比，這種衝突不斷左右著他們之間的關係。
作為故事的背景，書中的 1982 也修正了許多現實的遺憾：約翰·甘迺迪和約翰·列儂逃過被暗殺的命運；披頭士樂隊得以重組；「人工智慧之父」圖靈也沒有因性向而受到審判，他活了下來並大力推動了科技革新。
一切都是那麼完美，得以保留暗面的似乎只剩下真實的人類自己。
《我這樣的機器》提出了一個悲傷的問題： 如果我們製造出一台可以看穿我們的機器，它會不會愛上像我們這樣的內心？
Top 3
克拉拉與太陽
不要相信人類的諾言
作者: [英] 石黑一雄
譯者: 宋僉
出版社: 上海譯文出版社
出版年: 2021-3
克拉拉是一個用於陪伴孩子的女性機器人，從商店櫥窗被帶走後，她加入了一個殘缺的家庭，有剛失去一個女兒的母親，還有因兒童基因改造計劃失敗而身患疾病的少女喬西。
克拉拉有著敏銳的大腦和好奇心，她甚至擁有信仰，那個被她稱作「他」的太陽。她向太陽祈禱治癒喬西，也遵從喬西母親的意願，模仿和扮演喬西的舉動，以便有朝一日能充當她的生命延續。
面對克拉拉這樣同伴，人類家庭並不友善，甚至表現得冰冷自私。 AI 的無私和利他精神恰好成為了克拉拉的最大缺憾，讓她在錯誤的地方茫然地尋找愛和真心。
在石黑一雄構思這本小說時，《克拉拉與太陽》的雛形原本是個兒童故事。在把故事講給女兒聽後，女兒的評價是：「這太悲傷了，會給孩子留下陰影。」
作家雖然並不打算把小說寫成悲劇，但感傷依舊存在。孤獨的人類和克拉拉的之間的關係並不平等，正是這種信任和愛的缺失，才造成 AI 和人性共有的悲劇結局。
Top 2
在其他的世界
「我」與科幻小說的關係
作者: [加拿大] 瑪格麗特·阿特伍德
譯者: 蔡希苑 / 吳厚平
出版社: 河南大學出版社
出品方: 上河卓遠文化
出版年: 2018-4-1
科幻小說理所當然要有飛船、瘋子科學家和錯得離譜的實驗嗎？
《在其他的世界》並非一部科幻小說的名錄，它具有一定的自傳性質，收錄了阿特伍德這幾十年來關於科幻小說這一文學流派的探討、評議和她創作的五篇微型科學小說。
在無法確定「科幻小說」的定義之前，她拒絕用這個術語去歸類任何一本作品。如籬笆圍欄一般區隔的文學書籍，也會給讀者造成錯誤的期待。
於是她以讀者和作者的雙重身份，對某種、多種文學形式及其分支形式間的關係進行了深入梳理，闡述著科幻和科幻之間的差別——
援引星戰系列、《指環王》再到流行文化里的超級英雄，阿特伍德評述了多部文學經典，還剖析了此類文學在創作時的精神動因。
建議順著書中提到的作品一路閱讀，讓這張由阿特伍德鋪開的科幻小說文學地圖在你面前細細展開。
Top 1
未來學大會
一場偽裝成未來的幻覺
作者: [波] 斯坦尼斯瓦夫·萊姆
譯者: 許東華
出版社: 譯林出版社
出版年: 2021-8
伊揚·蒂赫被派往參加第八屆的未來學大會，這場大概發生在世紀之交的會議，重點關注了極度不穩定的國際局面，以及地球人口過剩的危機。
會議過程是荒謬的，他所居住的酒店也十分怪誕，但這一切只是荒唐的開始——
會議開始後不久城市街頭爆發騷亂，躲在下水道避險的主人公意外吸入了用於鎮壓騷亂的致幻藥品，這讓他掉入一層接一層的幻覺里。
這場漫長的幻覺中，他經歷了大腦移植、槍斃和人體冷凍，機器人在街頭鞭打人類、維護秩序， 包括他在內的所有人都在服用藥物，只憑精神生活在極度繁榮的美麗幻象里。
《未來學大會》最早發表於 1971 年，在萊姆更早的作品中，他還預言了網際網路、搜尋引擎、虛擬現實和 3D 列印的出現，直言人類將遭遇人工智慧和信息爆炸的挑戰。
到了 90 年代，萊姆逐漸放棄了科幻小說的創作，因為他覺得自己「對未來的瘋狂夢想再也無法與現實相提並論」。
Top 4
機器管家
不朽的「人類」
導演: 克里斯·哥倫布
編劇: 尼古拉斯·卡贊 / 艾薩克·阿西莫夫 / 羅伯特·西爾弗伯格
製片國家/地區: 美國 / 德國
上映日期: 1999-12-13(美國)
片長: 132分鐘
安德魯是一名男性管家型機器人，他溫和友善，嚴格遵循機器人三定律。在這個 2005 年的虛構家庭，安德魯的身份接近於一件物品，直到他表露出其他機器人所不具有的情緒和創造力。
在僱主的支持下，安德魯開始學習更多知識和技術，擁有了能夠表達情緒的面部表情。在獲得自由後，他持續尋找和他一樣有著獨立意識的機器人，一邊接受改造，直到擁有一副從內到外都接近於真實人類的身體。
他意志強大、肉體完善，與人類的距離似乎只有那副不朽的軀體。它阻撓了安德魯老化、有尊嚴地死亡、體驗每一個自然人都會面臨的命運。
機器人在擁有永生和自我意識後，會做出怎樣的選擇？原著作者阿西莫夫給出了其中一個答案： 也許他們會希望成為一個人類，脆弱、浪漫、終將帶著獨有的靈魂死去。
Top 3
錯位
「我發覺你們人類很怪」
導演: 黃建新
編劇: 張敏 / 黃建新
製片國家/地區: 中國大陸
上映日期: 1986
片長: 85分鐘
你我可能都做過這樣的「替身夢」：幻想有朝一日會出現一個和自己外表聲音完全一致的替身，聽從「我」的指示，替代自己處理作業、工作等一切想要逃避的事情。
在 1986 年的國產科幻片《錯位》里，工程師趙書信就創造出了這樣一個機器人，來替他完成沒完沒了的文件和會議。
然而就像所有的替身恐懼情節一樣，隨著這個優秀的機器人發展出自己的個性， 他開始不滿足於充當他人的替身，而試圖插手本體的生活全局。
他學會了喝酒和抽煙，違抗真人趙書信的指令，為了更好地和後者的女友約會，還會主動讀起和愛情相關的書籍……
《錯位》的劇情主線就是這樣一場人和人工智慧的對局，但其中設定的社會環境和背景，又給電影蒙上了一層隱晦的現實主義命題。
Top 2
銀翼殺手
造物主的詛咒
導演: 雷德利·斯科特
編劇: 漢普頓·范徹 / 大衛·韋伯·皮普爾斯 / 菲利普·迪克
製片國家/地區: 美國
上映日期: 1982-06-25(美國)
片長: 117分鐘(最終剪輯版) / 116分鐘(導演剪輯版)
銀翼殺手，一種存在於未來世界的特殊職業，他們的任務只有一個：剿殺地球上那些反叛的複製人。
電影里的複製人都有著極其優良的外表和綜合能力，唯一的短板是只有 4 年的壽命。一些具備反抗意識的複製人一邊躲避追殺，一邊尋找著延長生命的方式。
在被高階人類拋棄的地球上，銀翼殺手和複製人有著同樣美麗和惆悵的人性。
哪怕是複製人的創造者也不能延長 4 光年以外的壽命，殘餘的複製人在留下那段著名的獨白後死去：「 我曾見過人類無法想像的美，我曾見太空戰艦在獵戶星座旁熊熊燃燒，注視萬丈光芒在天國之門的黑暗裡閃耀，而所有過往都將消失於時間，如同淚水消失在雨中……」
複製人和銀翼殺手，也一起消散在了洛杉磯的雨水裡。
Top 1
大都會
機器人的獻祭
導演: 弗里茨·朗
編劇: 特婭·馮·哈堡
製片國家/地區: 德國
上映日期: 1927-01-10
片長: 153分鐘 / 210分鐘(德國初剪版) / 150分鐘(2010年修復版)
回顧一系列有關人工智慧的作品，許多故事都發生在反烏托邦的未來主義城市裡。
默片《大都會》超前地設想過 100 年後的世界，在那個以紐約為原型的城市中，來自不同階層的人類被物理隔絕開來： 權貴和富人都在高層大廈里享樂，而貧窮的勞動者則要在地下城市裡工作，沉默木然，與機器無異。
兩個階層的衝突起源於城市主人之子弗雷德與底層女子瑪麗亞的相遇。在目睹勞工的境遇後，弗雷德決定暗中反抗父親；然而統治者卻找來科學家製作出一個機器人版本的瑪麗亞，以此抹黑她的形象，方便藉口鎮壓平民。
在階層革命的設定中，片中的兩個瑪麗亞充滿了宗教的隱喻，強調了真人瑪麗亞的聖潔，以及機器人瑪麗亞的毀滅性。
電影從而給機器人安排了一個被獵巫的結局：弗雷德驚恐地看著被架在火刑柱上的瑪麗亞，直到大火將她吞沒，暴露出機器人的外形。
編輯：豬猛猛
監製：李二狗