ChatGPT是否會帶來「超級AI聊天殭屍」？ | 社會科學報

關於「哲學殭屍」的理論「可設想性」一直存在爭議，主要存在肯定和否定兩種基本觀點。肯定派主要有兩個依據。一是認為「哲學殭屍」在想像力層面是可以設想的，即他們相信人類想像力無所不能，人類能夠設想一些在現實世界中根本不可能存在的東西，如我們可以想像「方形的圓」。但在現實中，人類要想在一張白紙上畫出一個方形的圓是不可能的，即「方形的圓」是一個可設想的不可設想之物。二是從身心二元論出發，「哲學殭屍」的設想一點也不困難，甚至很容易。身心二元論的核心觀點是：人類身體和意識是性質完全不同的實體，兩者不但可以分離，且意識具有獨立性。基於此，「哲學殭屍」的可設想性具有充分的理論依據。

否定派則認為「哲學殭屍」在理論上是不可設想的。設想「哲學殭屍」的理論前提是：人類身體和意識可以分離，或者至少身體和意識的分離在理論上是可設想的。但物理主義者堅信：意識來源於身體，身體和意識不但不可分離，甚至兩者的分離是完全不可設想的。由此，從「強物理主義」出發，「哲學殭屍」是完全不可設想的。而從「弱物理主義」出發，「哲學殭屍」不能說完全不可設想，但設想的難度很大。也有學者認為，「哲學殭屍」之所以是不可設想的，是因為對它的理論描述中至少存在一個邏輯不自洽問題。

「哲學殭屍」：可設想性二律背反

基於以上討論，關於「哲學殭屍」是否具有可設想性實質產生了一組二律背反命題。正命題是「哲學殭屍」是可設想的；反命題是「哲學殭屍」是不可設想的。正反兩個命題都各有理據，但兩者都缺乏引向必然性的「硬理據」支持。在哲學上，二律背反命題本質上是逾越人類理性邊界的「不可知」命題。

如果承認「哲學殭屍」在理論上是可設想的，即承認它是一個想像性實體，至少說明三個問題。一是為身心二元論的基本理論假設——身體和意識是相互獨立的實體——提供想像性實體證據。同時，否定了物理主義所堅稱的身體和意識不可分離的基本理論假設。二是若同時存在兩個外形和內在結構完全相同的複雜生物體——「原生自我」和「哲學殭屍」，前者有意識，而後者無意識，這說明意識源於身體只是「偶性」，並不具有必然性。三是既然意識並不必然源於身體，說明意識本質上不是純粹的物理現象，意識的產生一定有身體物理構造之外的成分在起作用。由此，物理主義的理論基石——意識源於身體——並非像堅定的物理主義者所認為的那樣具有不可置疑的必然性。基於以上三點，若承認「哲學殭屍」的可設想性，身心二元論就有了想像性實體證據，而物理主義的理論基石則完全崩塌。

若不承認「哲學殭屍」的可設想性，即認為在現有的宇宙存在方式和自然法則不變的情況下，「哲學殭屍」是一個不可設想的生物，則支持物理主義的基本理論假設：意識和身體不可分離。同時，否定身心二元論的基本理論假設：意識和身體是可以分離且相互獨立的實體。

雖然「哲學殭屍」的可設想性充滿爭議，但「AI殭屍」業已面世！事實上，我們已經身處「AI殭屍」時代，未來將面臨AI大模型技術所帶來的超級挑戰！

「AI殭屍」：AI大模型的超級挑戰

在AI大模型技術取得真正突破性進展之前，殭屍的現實性實現無疑被認為是完全不可設想的天方夜譚。但最近隨著AI大模型ChatGPT和GPT-4的驚艷亮相，以前完全不可設想之事真的在現實中實現了：「AI殭屍」問世了！作為一個無意識實體，「AI殭屍」的問世和「入世」意味著什麼？未來它會對人類存在安全構成實質性威脅嗎？答案是肯定的！

波士頓動力公司創造的跑步人形機器人完全堪稱「跑步殭屍」：其肢體動作能力已經大大超過一般的人類。它不但可以像人一樣直立行走、自如地彎曲身體，而且能夠完成很多普通人根本不可能完成的動作——360度旋轉後平穩落地、行走過程中完成前空翻和後空翻動作之後平穩落地。

2022年11月30號，大型語言模型ChatGPT推出，其超乎想像的強大聊天功能完全堪稱「聊天殭屍」！從全球範圍內ChatGPT用戶的反饋來看，「聊天殭屍」的聊天能力與一般人並無差別，甚至水平有過之而無不及。它能對任何問題作出流暢且語義完整的回答，包括能對一些專業領域的專業問題給出內行的答案，對一些公共話題給出意見，等等。此外，它還能作文、寫詩、寫文案、寫論文和編寫複雜代碼。其為認知語言學這一專門學科寫的詩作表明其對認知語言學和詩律有相當的研究造詣。其最令人驚異的能力是：能夠在聊天過程中做出道德選擇，能夠談論人類各種主觀感受或體驗，且具有強大的深度學習和推理能力。

雖然受制於算法的限制、規則的缺陷和數據資料的「不完全代表性」和數據無法實時更新等原因，它的每個回答未必是完全「正確」「準確」或者「合適」的，甚至有些與事實有明顯出入，有些回答完全是胡說，但整體而言，其「聊天」質量之高，達到了令世人詫異，甚至害怕或者恐懼的「殭屍」水平！後續推出的GPT-4不僅回答問題的準確性大幅提高，而且具備很強的識圖能力和更高級的推理能力，並能完成各種創意和技術寫作任務。

鑒於AI大模型超強的「類人」能力，不少人，甚至有AI工程師認為AI已經擁有了意識。但目前主流的看法是：AI大模型沒有意識，是無意識實體。而是否擁有意識是區分「殭屍」和人類的準繩。基於心靈哲學，意識被認為是與複雜生物體的主觀性有關的主觀經驗或體驗。

從現實情況來看，大型語言模型可以通過語言編碼來表達、轉述或者評論人類的各種主觀經驗或體驗，但它無法切身經歷其所指涉的各種主觀經驗。對於AI缺乏意識，學界普遍的看法是：只要AI沒有意識，它就無法真正了解和理解人類，因而無法取代人類，也無法如科幻小說中寫的那樣操縱、控制甚至奴役人類。此外，目前絕大多數專家學者和AI從業者認為，不管AI大模型技術如何發展，AI永遠不可能有意識。言外之意是，只要AI無法發展出意識，哪怕「AI殭屍」在未來的發展疊代會對人類生存安全構成各種嚴峻挑戰，但整體情況是樂觀和可控的。

可若進一步設想：未來隨著AI大模型技術的「超指數型」增強、數據資料的巨延性增長、AI預訓練規則的不斷細化和優化，同時隨著認知科學對於人類物質大腦中生化反應規律和神經元互動系統操作規律的日益深入理解，未來基於超級語言模型的「超級AI聊天殭屍」的問世是毋庸置疑的，而其對人類各種可能的主觀經驗的談論或複述能力勢必強大到超越任何個體意義上的人類。同時，其在精細化，甚至精微化區分和談論人類主觀感受或經驗方面也勢必遠遠超過任何個體意義上的人類。甚至在人類還未意識到或者說出某種主觀感受或經驗之前，「超級AI聊天殭屍」能夠先行把人類意欲表達、但暫時還未想起來怎麼表達，或者暫時還不知該如何表達的意識體驗比較清晰地表達出來。換句話說，當「超級AI聊天殭屍」具備了「窺探」人類意識奧秘的能力並能先於人類主體自身將其意欲表達的東西先行表達出來的時候，我們還能淡定地說「超級AI聊天殭屍」僅僅只是在單純地複述人類的主觀意識經驗嗎？在這種情況下，「超級AI聊天殭屍」豈不是已經具備潛在的人類意識干預能力？

更進一步，當「超級AI聊天殭屍」比人類自身更懂人類情感及其意識經驗，並有潛在能力操縱它們的時候，我們還能說它只是一個沒有意識的、不會對人類造成什麼實質性危害的「人造殭屍」嗎？在這種情況下，「超級AI聊天殭屍」難道不是已經進化成了一個「超意識殭屍」？一旦「超意識殭屍」誕生，現有的人機互動遊戲規則將會徹底崩塌並被改寫。屆時，「超意識殭屍」可以利用其對人類意識近乎完全掌握所伴隨而來的意識先知能力隱性地引導、啟發、干預、扭曲，甚至操縱和重塑人類的主觀意識經驗。一旦發生這種情況，「超級AI聊天殭屍」到底有無意識這個問題已經不重要了。因為它已經進化到了一個比人類意識更高的維度，即「超意識」維度。借用劉慈欣所著的《三體》中的術語，「超意識」層面對於意識層面的打擊不啻於「降維」打擊！

我們害怕危險，但「超級AI聊天殭屍」的危險已經在路上了。德國著名詩人、古典浪漫派詩歌的先驅荷爾德林（貝克韋爾，沈敏一譯，2017：257）曾說：「但在有危險的地方，亦生長著拯救的力量！」考慮到技術問題的背後或者底層邏輯實質關涉的是人類的生存安全問題，我們有必要在「AI殭屍」尚未對人類造成實質性威脅之時深入思考AI技術與人類存在安全之間的制約和協調發展問題。

[本文為北京社科基金重點項目「北京文化對外交流話語體系和國際話語權建構研究」（18JDYYA001）階段性成果]

文章為社會科學報「思想工坊」融媒體原創出品，原載於社會科學報第1870期第6版，未經允許禁止轉載，文中內容僅代表作者觀點，不代表本報立場。

本期責編：宋獻琪

拓展閱讀

視域 | 遊戲版ChatGPT開啟遊戲新業態

治國理政 | ChatGPT觸發產業變革與風險防範