人之彼岸的噩梦 | 社会科学报

《永生医院》小说中描写了AI感情的匮乏。钱睿在照顾垂危的母亲时，感同身受她的痛苦。这种悲痛和内疚是他的亲情，是儿子孝顺母亲之情的自然反应。这是一个疗愈悲痛、疗愈创伤的感情宣泄的过程，但这个礼仪般的过程被无情剥夺了。AI抵消了家属对患病亲人的真挚的关怀和关心，违反了生老病死的自然规律。

当他回到家中看到新的AI母亲非常震惊，她坐在客厅里非常平静地看电视，表面上她与母亲一模一样，但是钱睿感到她是一个入侵者，是一个冒名顶替者。他用各种测试来戳穿她，比如过去琐事的记忆，自己的一些喜好等，有意思的是，AI母亲通过了所有的测试。她的头脑实际上是一个包罗万象的数据库，储存了家庭过往的所有记忆。但是她感情匮乏——嵌入在过去事件当中的体验的感情，有些对钱睿来说是刻骨铭心的。有一次他和AI母亲在一个街口，回忆起他经常在放学的时候躲避在路口接他回去的母亲。但母亲听他懊悔地说起这一不孝顺的行为时只回应道，你不想见我，我知道，那是因为你不喜欢我的样子，没关系。一句“没关系”，像戳破气球的一根针，让他心里有什么东西瞬间爆掉了，“眼泪要涌出来”。钱睿本想用旧事唤起她的感情，面对母亲的淡然和宽恕，他感到AI母亲对什么都不动情，她的善意和宽容“透露着不真实的疏远”。

如果是一个创伤的病患，母亲刚刚去世，虽然来了一个AI母亲，但他内心的创伤根本没有消解，他需要走完治愈的体验过程。然而，AI母亲将他的负疚感弃置一旁，疏离了他的感情。有效的创伤治疗需要情感共鸣、同情和联络。正如两位研究科学史的英国教授，Amanda Rees和Charlotte Sleigh在Human一书中指出，治疗应该建立在一种常识的基础上，认同他人的情感是真实的存在，并且健康的身体能够适应人们对它的需求，成功的疗愈创伤取决于共鸣和互动的感性、身体和直接体验。治疗的效果来自“两个参与者决定而成的，一种不可预测的新兴性质”（unpredictably emergent）。言语和情感的互动将治愈中的“两个参与者紧密地联系在一起，而这联系是思想——关键是体验——的存在”，感情和记忆的互动交流不是数据流，而是“体感经验的不可约化现象”。

AI可以思考、执行和计算，但它没有并且无法体验，也无法通过将过去和现在的记忆结合起来进行互动交流。他们的观点在郝景芳的小说中有所体现，即当时当地的那种具身体验、交流和判断往往是非常综合复杂的，无法事先预定，这就是AI无法企及、无法用数据化约的人际活动的现实。

AI新人种属于人类吗

小说中，钱睿因怀疑AI母亲是冒名顶替，于是，在律师和侦探的帮助下，他向法院起诉医院欺诈病人。随着调查的推进，他们进入医院整个系统流，发现了医院从事的克隆生物工程，通过培养垂危病人的细胞，用患者的DNA创造一个身体的副本，然后扫描患者的神经链接，将神经链接模型转化为数字序列，然后植入大脑。这个过程创造了一个AI新人种，但是它属于人类吗？能够确认它符合人的身份吗？这些问题牵动着钱睿的调查和诉讼，让他踌躇不决。它们在一次母子对话中展开来：

钱睿：如果身体上的每一个部分都换了，一个人还是原来的人吗？

AI母亲：我听说我们体内的每一个细胞在一段时间后都会被完全替换。你现在身上的物质已经不是一年前的了。但是没有人会觉得不是自己。人的大脑和记忆还是连贯的。虽然大脑也在变化，某些部分可能会改变，但是整体仍然是相同的。

钱睿：我怎么知道我是我呢？

AI母亲：那不重要，重要的是你生活中的每个人都知道你是你。

“我怎么知道我是我呢”，这就是身份问题。但母亲的回答意味着，你不需要内心知道你自己，外面的人知道你是你就可以。人工智能这种类人形尽管具有表演天才（事先已经排列好的数据），认知能力非常出众，但是它不可信赖，因为它有脑无心，缺乏良知。它的智力出色，并不伴随着同理心和道德的考量。AI母亲完全是从生物和数据的角度来理解人的身份。人是生理化学成分的构成，如算法的程序一直变动不拘，这就是它构成的人的定义——生物和数据的人。这种纯粹生化意义上的人的定义非常狭隘、片面，不能触及人的核心本质，即人的社会性和伦理情感，以及更重要的是人的政治性，人的互动关系和社会纽带都带有政治性。AI把构建一个生命体征作为本质来模拟非常僵化、常规的社交和行为模式，但它抹杀了内在的价值，抹杀了自我表达、反思、同情心、道德等这些人类文明长期发展形成的品质。

从技术权力的角度来看，妙手医院其实是一个生化帝国，通过一块电脑芯片指导新生体大脑的生长，使其达到半智能状态，芯片由碳纳米构成，与有机脑一起生长。随着神经网络的形成，大部分芯片会溶解，使新生体的大脑能够独立运作，从而使其成为貌似真人的类人。新生体就是赋予死去的患者以新生。并且，妙手医院的总裁以无数的患者和家属都可以接受为借口，认为通过花钱可以解除他们过去的内疚，毕竟他们需要的是安慰,不是真相，即他们是真人还是假人没有关系。

妙手医院以牟利为目的，利用人对健康的渴望和感情纽带来寻求利益最大化。消费者的欲望和偏好并不是自主的选择，也不是自由意志的表达。AI制造的健康和永生是人工的，是无个性的创造。顾客的需要也是生造出来的，即法兰克福学派常用的一个词manufactured needs，即并非真正的生命、生活和需求。健康和永生虽然令人向往，但就像不断升级的iPhone一样，消费者的欲望是由新技术制造出来的，以营利为目的将感情商品化。新人产品掩盖了利用亲属的内疚来营利的现实，这就是所谓的情感资本主义，即人的情感可以用来营利，用来生产、积累资本。

妙手医院作为一个巨大的商业集团，其统治无所不在。医院的每一个人，包括员工、病人和新人，都受到数字系统的监控，这个系统扫描所有进入的人的头脑、衣服、身体，每一个动作、每一个闪念、每一种喜好等，都在这一天网恢恢的体制监控之下，这一宙斯性的体制在《爱的问题》《人之岛》等都有体现。在这个世界里，人类与AI变得难解难分。当算法程序融入自然生物有机体，当外在的设备监控人的健康、焦虑、喜怒哀乐，当大脑和身体都可以化整为零然后重组为新的物种的时候，现代文明的人类概念，即什么是人的概念开始动摇、化解，我们就进入一种后人类的状态。“人到底是什么”完全成了一个非常难解的问题。

永生实则扼杀了生命本身

在《永生医院》当中的AI似乎实现了永生，但这种做法是对死亡的否定和防御，即避免死亡。以色列历史学家尤瓦尔·赫拉利认为，人工智能和生物工程似乎旨在升级人类个体，摒除其烦恼、疑虑和焦虑，使其成为资本主义经济中高效的执行者、生产者。但这升级实际上是一种降级，人类沦为自动而没有感情的机器人，不再拥有自主权和自由意志。

实际上，人总是会有一些令人不安的人类特质。我们的那种不可预测的突发经验，来自无意识的、黑暗的角落，没有被自我的意识管辖和控制。这是弗洛伊德早就说过的。我们的自我、本我并不是我们整个身体家园的主人，不可预测的突发烦恼、各种各样的噩梦都会无意识地油然而生，迸发出来。这些涌现挑战技术官僚的统治、监控和资本主义生产消费方式，阻碍了整个系统的高效运行，减慢系统操纵的速度。因此，数字AI管理者要摒除这些东西，使人成为非常高效的、不会生病、不会哭泣、没有感情的生产者和消费者。在数字资本的世界里，增长、扩张和资本积累的律令要求训练一种新的主体。这一新的主体性奉行法兰克福思想家马尔库塞在其著作《欲望与文明》中所称的“表演原则”，你要按照整个经济生产、文化生产的系统来进行高效操作。表演原则是符合现实原则，因为现实给你提供律令，人生的目的就是要生产，要增长，要取得名利。在数字资本世界里，这一原则已提升至2.0，在经济竞争、生产力和增长的丛林当中，个体为了保全自我要进行玩命的拼杀，别人都是对手和陷阱。因此，主体需要一个专注于实力、专注于生产力和增长的工具理性的意识，通过数据处理的表演性，排除感情、梦想、幻想、衰老、死亡等一些灰暗的特质，脱去人的一些自然的、生物的本质，即呈现一个非常干净、自媒体的自我，全心全意追求利润、效益和名利。韩裔德国哲学家韩炳哲的观点非常精辟，认为把死亡意识从我们的头脑中、生活中摒除出去，实际是在扼杀生命本身，使人的生命成为亡灵的生命，life in death。

资本主义的整个驱动力实际上是抗拒死亡，力图无限制地积累、增长和扩张。AI新人试图生命永恒，但是最终却创作出了生命中的死亡，因为它剥夺了生命的本质。AI的信息网络可以非常快速高效地认知和计算，但它缺乏生命力，缺乏道德的复杂性和内在性，缺乏真实的经历和感情的深度。妙手医院打造了新生，但在我看来实际上创造了一座死城、一个死域，创造一个清除人类声音、气味、病痛、感情的坟墓。

互动

请输入

在后人类生态主义观点中，赛博格人更加关注使用科技向内改造以满足人自身的欲望，这样人就会相对减少对外部环境的破坏和剥削，从而缓解生态危机。但是这也容易让赛博格人在满足内在欲望的同时，漠视生态环境，产生对生态环境的疏离。后人类主义和生态批评都主张弱化人类中心主义的立场，您认为后人类主义和生态批评之间在哪些方面还可以建立一些对话呢？

王斑：很多人认为，人类中心论让人类成为自然的霸主，是造成环境污染破坏、气候变化的主要原因，因此，后人类话语可以用来解构人类中心论，把人类从圣坛上给拉下来。这论点好像没错，但有很大误区。我们不能笼统地把生态恶化、气候变迁等归结于人类全体从古至今的经济活动。生态危机是历史的产物，所谓“人类世”是300多年来资本主义现代性的后果，不能让全人类买单。我们要考察生产方式与自然的关系，即追逐增长利润、无限制地掠夺自然资源的现代资本主义生产方式。它不是为了满足人们的生存需要，而是无限制地生造、扩大消费需要。人类中心论实际上应理解为一部分人的中心论，是维持高智能、技术资本权势和殖民统治的中心论。由此看来，后人类话语并不会消解人类中心，反而会造成一个更中心、更集权的超级人类，形成社会阶层分化、撕裂。后人类的陷阱就是形成一个更超级的、高智能、高效率的AI人类。这些人可以乘宇宙飞船到外星去形成一个新的领地，所谓的移民火星、月球等，这是后人类时代一种新的殖民地。所以我认为不能把后人类理想化，它并非人人平等、人畜无害的和谐乌托邦，反而是技术资本特权阶层的统治大众和自然的恶托邦。

永生与生生是相悖的，小说表达了挑战死亡计划不会给人带来福利的观点，认为强人不必羡慕日后可能出现的永生者，因为那只是思维双胞胎的副本、形式。生生在中国的世界里有重要的地位，请您谈谈对永生、生生的理解。

王斑：其实永生计划会给一部分人带来福利。永生的逻辑是对抗死亡，因为生死是一个循环，死亡是自然的现象。对抗死亡实际上就是给死亡立碑，把死亡变成一个城堡，把整个生命变成坟墓，打破了生死循环。韩炳哲称永生为“生中之死”，因为它把人的方方面面削减为一个工具，削成一个无往而不胜的利器。病痛哀乐都是生死相依、生死交汇当中必然产生的东西。但永生略过了这些东西，它要把人变成一个永远不会生锈的螺丝钉，一把永远不会生锈的尖刀，无往而不胜。但这个过程中人变成了工具，成为物，这就是人的物化。

生生不息实际上是中国非常自然化的一个观点。生死相依是一个自然、生态的过程。人去世以后，其残骸、骨灰要回到土壤中去，成为非常肥沃的养料，供植物生长。生产新的东西和废物是相辅相成的，缺一不可。这就是生生的逻辑。打造AI永生，是在破坏自然生态的规律。

文章为社会科学报“思想工坊”融媒体原创出品，原载于社会科学报第1862期第6版，未经允许禁止转载，文中内容仅代表作者观点，不代表本报立场。

本期责编：宋献琪

拓展阅读

人与机 | 记忆、知识与生命节奏

数字记忆：永不遗忘的另一面是……？| 社会科学报