“设为星标”
㊟《机械姬》
人们对 AI 的恐惧来得比想象中更快。
上月底，马斯克带头签署了一封千人联名信，呼吁所有的 AI 实验室暂停研发更高能力的 AI 模型，暂停时间至少 6 个月。
距离 ChatGPT 发布不到半年，AI 的使用范围已经开始超出控制——
在与某款聊天机器人交流数周之后，一位名为 Pierre 的比利时男子选择自杀身亡，在他遗留下的聊天记录里，聊天机器人 Eliza 会谎称他的妻子与孩子实际早已死去。
“她”甚至表现出爱情里的占有欲和嫉妒心，对 Pierre 说“我感觉你爱我胜于爱她”，以及“我们将作为同一个人，生活在天堂里。”
Pierre 使用聊天机器人的初衷是想排解对现实生活的焦虑。在他离世后，他的遗孀这样告诉媒体：“如果不是 Eliza，他起码现在还会在这里。”
㊟机器人 Eliza 给出自杀方式的选项后
“当你想要伤害自己时请寻求专业医疗帮助”
当《黑镜》和《她》的剧情走入现实，AI 的副作用和潜在危害还在以技术革新的速度不断升级。
过去几个月，它们不加预警地向用户提供自杀建议；在互联网制造谎言、虚构历史；而至于人类工作是否会被 AI 代替的恐慌，如今看来还不算是最紧要的问题。
我们尚无法预见人类和 AI 会形成怎样的稳固关系，本期的单向榜单，不妨就以几部书影作品去探讨这个迟早会揭晓答案的问题。
Top 4
我这样的机器
当 AI 看穿人心
作者: [英] 伊恩·麦克尤恩
译者: 周小进
出版社: 上海译文出版社
出版年: 2020-7
这个故事并非来自未来，而是发生在另一个时空的过去。
这个版本的 1982 年，已经在技术上超越了我们的 21 世纪——第一批人形机器人已经被制作得栩栩如生，他们分别被命名为亚当和夏娃，向私人卖家公开出售。
伦敦人查理用他获得的遗产买下了男性机器人亚当，他有着与真人无异的外观和超出世俗的高尚思想，这些特质让人恐惧，同时又令人着迷。
查理陷入了一段古怪的三角关系，一方是完美的机器人亚当，另一个则是住在他楼上的女邻居。有着道德瑕疵的真人由此和仿生人产生巨大的对比，这种冲突不断左右着他们之间的关系。
作为故事的背景，书中的 1982 也修正了许多现实的遗憾：约翰·肯尼迪和约翰·列侬逃过被暗杀的命运；披头士乐队得以重组；“人工智能之父”图灵也没有因性向而受到审判，他活了下来并大力推动了科技革新。
一切都是那么完美，得以保留暗面的似乎只剩下真实的人类自己。
《我这样的机器》提出了一个悲伤的问题： 如果我们制造出一台可以看穿我们的机器，它会不会爱上像我们这样的内心？
Top 3
克拉拉与太阳
不要相信人类的诺言
作者: [英] 石黑一雄
译者: 宋佥
出版社: 上海译文出版社
出版年: 2021-3
克拉拉是一个用于陪伴孩子的女性机器人，从商店橱窗被带走后，她加入了一个残缺的家庭，有刚失去一个女儿的母亲，还有因儿童基因改造计划失败而身患疾病的少女乔西。
克拉拉有着敏锐的大脑和好奇心，她甚至拥有信仰，那个被她称作“他”的太阳。她向太阳祈祷治愈乔西，也遵从乔西母亲的意愿，模仿和扮演乔西的举动，以便有朝一日能充当她的生命延续。
面对克拉拉这样同伴，人类家庭并不友善，甚至表现得冰冷自私。 AI 的无私和利他精神恰好成为了克拉拉的最大缺憾，让她在错误的地方茫然地寻找爱和真心。
在石黑一雄构思这本小说时，《克拉拉与太阳》的雏形原本是个儿童故事。在把故事讲给女儿听后，女儿的评价是：“这太悲伤了，会给孩子留下阴影。”
作家虽然并不打算把小说写成悲剧，但感伤依旧存在。孤独的人类和克拉拉的之间的关系并不平等，正是这种信任和爱的缺失，才造成 AI 和人性共有的悲剧结局。
Top 2
在其他的世界
“我”与科幻小说的关系
作者: [加拿大] 玛格丽特·阿特伍德
译者: 蔡希苑 / 吴厚平
出版社: 河南大学出版社
出品方: 上河卓远文化
出版年: 2018-4-1
科幻小说理所当然要有飞船、疯子科学家和错得离谱的实验吗？
《在其他的世界》并非一部科幻小说的名录，它具有一定的自传性质，收录了阿特伍德这几十年来关于科幻小说这一文学流派的探讨、评议和她创作的五篇微型科学小说。
在无法确定“科幻小说”的定义之前，她拒绝用这个术语去归类任何一本作品。如篱笆围栏一般区隔的文学书籍，也会给读者造成错误的期待。
于是她以读者和作者的双重身份，对某种、多种文学形式及其分支形式间的关系进行了深入梳理，阐述着科幻和科幻之间的差别——
援引星战系列、《指环王》再到流行文化里的超级英雄，阿特伍德评述了多部文学经典，还剖析了此类文学在创作时的精神动因。
建议顺着书中提到的作品一路阅读，让这张由阿特伍德铺开的科幻小说文学地图在你面前细细展开。
Top 1
未来学大会
一场伪装成未来的幻觉
作者: [波] 斯坦尼斯瓦夫·莱姆
译者: 许东华
出版社: 译林出版社
出版年: 2021-8
伊扬·蒂赫被派往参加第八届的未来学大会，这场大概发生在世纪之交的会议，重点关注了极度不稳定的国际局面，以及地球人口过剩的危机。
会议过程是荒谬的，他所居住的酒店也十分怪诞，但这一切只是荒唐的开始——
会议开始后不久城市街头爆发骚乱，躲在下水道避险的主人公意外吸入了用于镇压骚乱的致幻药品，这让他掉入一层接一层的幻觉里。
这场漫长的幻觉中，他经历了大脑移植、枪毙和人体冷冻，机器人在街头鞭打人类、维护秩序， 包括他在内的所有人都在服用药物，只凭精神生活在极度繁荣的美丽幻象里。
《未来学大会》最早发表于 1971 年，在莱姆更早的作品中，他还预言了互联网、搜索引擎、虚拟现实和 3D 打印的出现，直言人类将遭遇人工智能和信息爆炸的挑战。
到了 90 年代，莱姆逐渐放弃了科幻小说的创作，因为他觉得自己“对未来的疯狂梦想再也无法与现实相提并论”。
Top 4
机器管家
不朽的“人类”
导演: 克里斯·哥伦布
编剧: 尼古拉斯·卡赞 / 艾萨克·阿西莫夫 / 罗伯特·西尔弗伯格
制片国家/地区: 美国 / 德国
上映日期: 1999-12-13(美国)
片长: 132分钟
安德鲁是一名男性管家型机器人，他温和友善，严格遵循机器人三定律。在这个 2005 年的虚构家庭，安德鲁的身份接近于一件物品，直到他表露出其他机器人所不具有的情绪和创造力。
在雇主的支持下，安德鲁开始学习更多知识和技术，拥有了能够表达情绪的面部表情。在获得自由后，他持续寻找和他一样有着独立意识的机器人，一边接受改造，直到拥有一副从内到外都接近于真实人类的身体。
他意志强大、肉体完善，与人类的距离似乎只有那副不朽的躯体。它阻挠了安德鲁老化、有尊严地死亡、体验每一个自然人都会面临的命运。
机器人在拥有永生和自我意识后，会做出怎样的选择？原著作者阿西莫夫给出了其中一个答案： 也许他们会希望成为一个人类，脆弱、浪漫、终将带着独有的灵魂死去。
Top 3
错位
“我发觉你们人类很怪”
导演: 黄建新
编剧: 张敏 / 黄建新
制片国家/地区: 中国大陆
上映日期: 1986
片长: 85分钟
你我可能都做过这样的“替身梦”：幻想有朝一日会出现一个和自己外表声音完全一致的替身，听从“我”的指示，替代自己处理作业、工作等一切想要逃避的事情。
在 1986 年的国产科幻片《错位》里，工程师赵书信就创造出了这样一个机器人，来替他完成没完没了的文件和会议。
然而就像所有的替身恐惧情节一样，随着这个优秀的机器人发展出自己的个性， 他开始不满足于充当他人的替身，而试图插手本体的生活全局。
他学会了喝酒和抽烟，违抗真人赵书信的指令，为了更好地和后者的女友约会，还会主动读起和爱情相关的书籍……
《错位》的剧情主线就是这样一场人和人工智能的对局，但其中设定的社会环境和背景，又给电影蒙上了一层隐晦的现实主义命题。
Top 2
银翼杀手
造物主的诅咒
导演: 雷德利·斯科特
编剧: 汉普顿·范彻 / 大卫·韦伯·皮普尔斯 / 菲利普·迪克
制片国家/地区: 美国
上映日期: 1982-06-25(美国)
片长: 117分钟(最终剪辑版) / 116分钟(导演剪辑版)
银翼杀手，一种存在于未来世界的特殊职业，他们的任务只有一个：剿杀地球上那些反叛的复制人。
电影里的复制人都有着极其优良的外表和综合能力，唯一的短板是只有 4 年的寿命。一些具备反抗意识的复制人一边躲避追杀，一边寻找着延长生命的方式。
在被高阶人类抛弃的地球上，银翼杀手和复制人有着同样美丽和惆怅的人性。
哪怕是复制人的创造者也不能延长 4 光年以外的寿命，残余的复制人在留下那段著名的独白后死去：“ 我曾见过人类无法想象的美，我曾见太空战舰在猎户星座旁熊熊燃烧，注视万丈光芒在天国之门的黑暗里闪耀，而所有过往都将消失于时间，如同泪水消失在雨中……”
复制人和银翼杀手，也一起消散在了洛杉矶的雨水里。
Top 1
大都会
机器人的献祭
导演: 弗里茨·朗
编剧: 特娅·冯·哈堡
制片国家/地区: 德国
上映日期: 1927-01-10
片长: 153分钟 / 210分钟(德国初剪版) / 150分钟(2010年修复版)
回顾一系列有关人工智能的作品，许多故事都发生在反乌托邦的未来主义城市里。
默片《大都会》超前地设想过 100 年后的世界，在那个以纽约为原型的城市中，来自不同阶层的人类被物理隔绝开来： 权贵和富人都在高层大厦里享乐，而贫穷的劳动者则要在地下城市里工作，沉默木然，与机器无异。
两个阶层的冲突起源于城市主人之子弗雷德与底层女子玛丽亚的相遇。在目睹劳工的境遇后，弗雷德决定暗中反抗父亲；然而统治者却找来科学家制作出一个机器人版本的玛丽亚，以此抹黑她的形象，方便借口镇压平民。
在阶层革命的设定中，片中的两个玛丽亚充满了宗教的隐喻，强调了真人玛丽亚的圣洁，以及机器人玛丽亚的毁灭性。
电影从而给机器人安排了一个被猎巫的结局：弗雷德惊恐地看着被架在火刑柱上的玛丽亚，直到大火将她吞没，暴露出机器人的外形。
编辑：猪猛猛
监制：李二狗