人之彼岸的噩夢 | 社會科學報

《永生醫院》小說中描寫了AI感情的匱乏。錢睿在照顧垂危的母親時，感同身受她的痛苦。這種悲痛和內疚是他的親情，是兒子孝順母親之情的自然反應。這是一個療愈悲痛、療愈創傷的感情宣洩的過程，但這個禮儀般的過程被無情剝奪了。AI抵消了家屬對患病親人的真摯的關懷和關心，違反了生老病死的自然規律。

當他回到家中看到新的AI母親非常震驚，她坐在客廳里非常平靜地看電視，表面上她與母親一模一樣，但是錢睿感到她是一個入侵者，是一個冒名頂替者。他用各種測試來戳穿她，比如過去瑣事的記憶，自己的一些喜好等，有意思的是，AI母親通過了所有的測試。她的頭腦實際上是一個包羅萬象的資料庫，儲存了家庭過往的所有記憶。但是她感情匱乏——嵌入在過去事件當中的體驗的感情，有些對錢睿來說是刻骨銘心的。有一次他和AI母親在一個街口，回憶起他經常在放學的時候躲避在路口接他回去的母親。但母親聽他懊悔地說起這一不孝順的行為時只回應道，你不想見我，我知道，那是因為你不喜歡我的樣子，沒關係。一句「沒關係」，像戳破氣球的一根針，讓他心裡有什麼東西瞬間爆掉了，「眼淚要湧出來」。錢睿本想用舊事喚起她的感情，面對母親的淡然和寬恕，他感到AI母親對什麼都不動情，她的善意和寬容「透露著不真實的疏遠」。

如果是一個創傷的病患，母親剛剛去世，雖然來了一個AI母親，但他內心的創傷根本沒有消解，他需要走完治癒的體驗過程。然而，AI母親將他的負疚感棄置一旁，疏離了他的感情。有效的創傷治療需要情感共鳴、同情和聯絡。正如兩位研究科學史的英國教授，Amanda Rees和Charlotte Sleigh在Human一書中指出，治療應該建立在一種常識的基礎上，認同他人的情感是真實的存在，並且健康的身體能夠適應人們對它的需求，成功的療愈創傷取決於共鳴和互動的感性、身體和直接體驗。治療的效果來自「兩個參與者決定而成的，一種不可預測的新興性質」（unpredictably emergent）。言語和情感的互動將治癒中的「兩個參與者緊密地聯繫在一起，而這聯繫是思想——關鍵是體驗——的存在」，感情和記憶的互動交流不是數據流，而是「體感經驗的不可約化現象」。

AI可以思考、執行和計算，但它沒有並且無法體驗，也無法通過將過去和現在的記憶結合起來進行互動交流。他們的觀點在郝景芳的小說中有所體現，即當時當地的那種具身體驗、交流和判斷往往是非常綜合複雜的，無法事先預定，這就是AI無法企及、無法用數據化約的人際活動的現實。

AI新人種屬於人類嗎

小說中，錢睿因懷疑AI母親是冒名頂替，於是，在律師和偵探的幫助下，他向法院起訴醫院欺詐病人。隨著調查的推進，他們進入醫院整個系統流，發現了醫院從事的克隆生物工程，通過培養垂危病人的細胞，用患者的DNA創造一個身體的副本，然後掃描患者的神經連結，將神經連結模型轉化為數字序列，然後植入大腦。這個過程創造了一個AI新人種，但是它屬於人類嗎？能夠確認它符合人的身份嗎？這些問題牽動著錢睿的調查和訴訟，讓他躊躇不決。它們在一次母子對話中展開來：

錢睿：如果身體上的每一個部分都換了，一個人還是原來的人嗎？

AI母親：我聽說我們體內的每一個細胞在一段時間後都會被完全替換。你現在身上的物質已經不是一年前的了。但是沒有人會覺得不是自己。人的大腦和記憶還是連貫的。雖然大腦也在變化，某些部分可能會改變，但是整體仍然是相同的。

錢睿：我怎麼知道我是我呢？

AI母親：那不重要，重要的是你生活中的每個人都知道你是你。

「我怎麼知道我是我呢」，這就是身份問題。但母親的回答意味著，你不需要內心知道你自己，外面的人知道你是你就可以。人工智慧這種類人形儘管具有表演天才（事先已經排列好的數據），認知能力非常出眾，但是它不可信賴，因為它有腦無心，缺乏良知。它的智力出色，並不伴隨著同理心和道德的考量。AI母親完全是從生物和數據的角度來理解人的身份。人是生理化學成分的構成，如算法的程序一直變動不拘，這就是它構成的人的定義——生物和數據的人。這種純粹生化意義上的人的定義非常狹隘、片面，不能觸及人的核心本質，即人的社會性和倫理情感，以及更重要的是人的政治性，人的互動關係和社會紐帶都帶有政治性。AI把構建一個生命體徵作為本質來模擬非常僵化、常規的社交和行為模式，但它抹殺了內在的價值，抹殺了自我表達、反思、同情心、道德等這些人類文明長期發展形成的品質。

從技術權力的角度來看，妙手醫院其實是一個生化帝國，通過一塊電腦晶片指導新生體大腦的生長，使其達到半智能狀態，晶片由碳納米構成，與有機腦一起生長。隨著神經網絡的形成，大部分晶片會溶解，使新生體的大腦能夠獨立運作，從而使其成為貌似真人的類人。新生體就是賦予死去的患者以新生。並且，妙手醫院的總裁以無數的患者和家屬都可以接受為藉口，認為通過花錢可以解除他們過去的內疚，畢竟他們需要的是安慰,不是真相，即他們是真人還是假人沒有關係。

妙手醫院以牟利為目的，利用人對健康的渴望和感情紐帶來尋求利益最大化。消費者的慾望和偏好並不是自主的選擇，也不是自由意志的表達。AI製造的健康和永生是人工的，是無個性的創造。顧客的需要也是生造出來的，即法蘭克福學派常用的一個詞manufactured needs，即並非真正的生命、生活和需求。健康和永生雖然令人嚮往，但就像不斷升級的iPhone一樣，消費者的慾望是由新技術製造出來的，以營利為目的將感情商品化。新人產品掩蓋了利用親屬的內疚來營利的現實，這就是所謂的情感資本主義，即人的情感可以用來營利，用來生產、積累資本。

妙手醫院作為一個巨大的商業集團，其統治無所不在。醫院的每一個人，包括員工、病人和新人，都受到數字系統的監控，這個系統掃描所有進入的人的頭腦、衣服、身體，每一個動作、每一個閃念、每一種喜好等，都在這一天網恢恢的體制監控之下，這一宙斯性的體制在《愛的問題》《人之島》等都有體現。在這個世界裡，人類與AI變得難解難分。當算法程序融入自然生物有機體，當外在的設備監控人的健康、焦慮、喜怒哀樂，當大腦和身體都可以化整為零然後重組為新的物種的時候，現代文明的人類概念，即什麼是人的概念開始動搖、化解，我們就進入一種後人類的狀態。「人到底是什麼」完全成了一個非常難解的問題。

永生實則扼殺了生命本身

在《永生醫院》當中的AI似乎實現了永生，但這種做法是對死亡的否定和防禦，即避免死亡。以色列歷史學家尤瓦爾·赫拉利認為，人工智慧和生物工程似乎旨在升級人類個體，摒除其煩惱、疑慮和焦慮，使其成為資本主義經濟中高效的執行者、生產者。但這升級實際上是一種降級，人類淪為自動而沒有感情的機器人，不再擁有自主權和自由意志。

實際上，人總是會有一些令人不安的人類特質。我們的那種不可預測的突發經驗，來自無意識的、黑暗的角落，沒有被自我的意識管轄和控制。這是弗洛伊德早就說過的。我們的自我、本我並不是我們整個身體家園的主人，不可預測的突發煩惱、各種各樣的噩夢都會無意識地油然而生，迸發出來。這些湧現挑戰技術官僚的統治、監控和資本主義生產消費方式，阻礙了整個系統的高效運行，減慢系統操縱的速度。因此，數字AI管理者要摒除這些東西，使人成為非常高效的、不會生病、不會哭泣、沒有感情的生產者和消費者。在數字資本的世界裡，增長、擴張和資本積累的律令要求訓練一種新的主體。這一新的主體性奉行法蘭克福思想家馬爾庫塞在其著作《慾望與文明》中所稱的「表演原則」，你要按照整個經濟生產、文化生產的系統來進行高效操作。表演原則是符合現實原則，因為現實給你提供律令，人生的目的就是要生產，要增長，要取得名利。在數字資本世界裡，這一原則已提升至2.0，在經濟競爭、生產力和增長的叢林當中，個體為了保全自我要進行玩命的拼殺，別人都是對手和陷阱。因此，主體需要一個專注於實力、專注於生產力和增長的工具理性的意識，通過數據處理的表演性，排除感情、夢想、幻想、衰老、死亡等一些灰暗的特質，脫去人的一些自然的、生物的本質，即呈現一個非常乾淨、自媒體的自我，全心全意追求利潤、效益和名利。韓裔德國哲學家韓炳哲的觀點非常精闢，認為把死亡意識從我們的頭腦中、生活中摒除出去，實際是在扼殺生命本身，使人的生命成為亡靈的生命，life in death。

資本主義的整個驅動力實際上是抗拒死亡，力圖無限制地積累、增長和擴張。AI新人試圖生命永恆，但是最終卻創作出了生命中的死亡，因為它剝奪了生命的本質。AI的信息網絡可以非常快速高效地認知和計算，但它缺乏生命力，缺乏道德的複雜性和內在性，缺乏真實的經歷和感情的深度。妙手醫院打造了新生，但在我看來實際上創造了一座死城、一個死域，創造一個清除人類聲音、氣味、病痛、感情的墳墓。

互動

請輸入

在後人類生態主義觀點中，賽博格人更加關注使用科技向內改造以滿足人自身的慾望，這樣人就會相對減少對外部環境的破壞和剝削，從而緩解生態危機。但是這也容易讓賽博格人在滿足內在慾望的同時，漠視生態環境，產生對生態環境的疏離。後人類主義和生態批評都主張弱化人類中心主義的立場，您認為後人類主義和生態批評之間在哪些方面還可以建立一些對話呢？

王斑：很多人認為，人類中心論讓人類成為自然的霸主，是造成環境污染破壞、氣候變化的主要原因，因此，後人類話語可以用來解構人類中心論，把人類從聖壇上給拉下來。這論點好像沒錯，但有很大誤區。我們不能籠統地把生態惡化、氣候變遷等歸結於人類全體從古至今的經濟活動。生態危機是歷史的產物，所謂「人類世」是300多年來資本主義現代性的後果，不能讓全人類買單。我們要考察生產方式與自然的關係，即追逐增長利潤、無限制地掠奪自然資源的現代資本主義生產方式。它不是為了滿足人們的生存需要，而是無限制地生造、擴大消費需要。人類中心論實際上應理解為一部分人的中心論，是維持高智能、技術資本權勢和殖民統治的中心論。由此看來，後人類話語並不會消解人類中心，反而會造成一個更中心、更集權的超級人類，形成社會階層分化、撕裂。後人類的陷阱就是形成一個更超級的、高智能、高效率的AI人類。這些人可以乘宇宙飛船到外星去形成一個新的領地，所謂的移民火星、月球等，這是後人類時代一種新的殖民地。所以我認為不能把後人類理想化，它並非人人平等、人畜無害的和諧烏托邦，反而是技術資本特權階層的統治大眾和自然的惡托邦。

永生與生生是相悖的，小說表達了挑戰死亡計劃不會給人帶來福利的觀點，認為強人不必羨慕日後可能出現的永生者，因為那只是思維雙胞胎的副本、形式。生生在中國的世界裡有重要的地位，請您談談對永生、生生的理解。

王斑：其實永生計劃會給一部分人帶來福利。永生的邏輯是對抗死亡，因為生死是一個循環，死亡是自然的現象。對抗死亡實際上就是給死亡立碑，把死亡變成一個城堡，把整個生命變成墳墓，打破了生死循環。韓炳哲稱永生為「生中之死」，因為它把人的方方面面削減為一個工具，削成一個無往而不勝的利器。病痛哀樂都是生死相依、生死交匯當中必然產生的東西。但永生略過了這些東西，它要把人變成一個永遠不會生鏽的螺絲釘，一把永遠不會生鏽的尖刀，無往而不勝。但這個過程中人變成了工具，成為物，這就是人的物化。

生生不息實際上是中國非常自然化的一個觀點。生死相依是一個自然、生態的過程。人去世以後，其殘骸、骨灰要回到土壤中去，成為非常肥沃的養料，供植物生長。生產新的東西和廢物是相輔相成的，缺一不可。這就是生生的邏輯。打造AI永生，是在破壞自然生態的規律。

文章為社會科學報「思想工坊」融媒體原創出品，原載於社會科學報第1862期第6版，未經允許禁止轉載，文中內容僅代表作者觀點，不代表本報立場。

本期責編：宋獻琪

拓展閱讀

人與機 | 記憶、知識與生命節奏

數字記憶：永不遺忘的另一面是……？| 社會科學報