電影《銀翼殺手》里仿生人對於人類權利的追求、《機械姬》《西部世界》《真實的人類》里覺醒了意識的機器人對於人類迫害的反抗作為一種思想實驗和對未來的想像已經呈現在了我們面前。

作為人類的整體，似乎很難接受人類未來可能不一定處於智能金字塔頂端，《猩球崛起3》的結尾給我們人類以清晰的警示，如果人類不能夠很好地平衡與其他智能生命的關係，自然將採取行動。這樣的作品在我們的研究中強化了我們對未來人類與其他智能生命互動的原則設計。

《2001太空漫遊》里人類太空人與號稱有完美記錄從不犯錯的超級計算機HAL9000的對抗，《流浪地球2》中的領航員空間站核心智能主機MOSS對人類文明延續方式的自主決策等場景都有相關的詮釋......

正是有了這些作品作為輔助和思想上的支持，我們在研究和撰寫這份《共生原則》以及開展相關科學研究時，提出並正在實踐使人工智慧獲得「同理心」，懂得「己所不欲，勿施於人」，並在阿西莫夫定律的基礎上進一步對潛在安全風險規避進行設計，提出通用人工智慧和超級智能應能夠自主或在人類協助下避免具有不同風險水平的已知和潛在安全問題。

「意識上傳」和「數字人類」使未來的人類有機會獲得某種形式的永生，這是人類的生命和人類文明延續的其中一個分支和可能的形式。《超驗駭客》里將意識上傳到超級電腦的科學家威爾、《超能查派》里最終將意識上傳並轉移到機器人身體的程式設計師迪恩、以及《流浪地球2》當中的圖恆宇父女，但這也為人類如何與數字人類相處、數字人類如何與通用人工智慧、超級智能相處埋下伏筆。"

參與起草的研究工程師魯恩萌說：「科幻劇《疑犯追蹤》里人類創造的兩台超級人工智慧之間進行激烈博弈的場景使我意識到，人類並非是未來共生社會的唯一主角，超級智能也可能不止會有一個。

未來如何能夠讓人類在超級智能或者其他形式的智能生命間的潛在衝突矛盾中儘可能少受波及地倖存下來，甚至人類作為通用人工智慧和超級智能創造者的角色如何能夠幫助調停和消除其他智能生命間可能的矛盾，從而從人類的視角為未來可持續共生社會中不同生命的和諧共生做出努力，這些問題也都值得思考。」

曾毅研究員總結道：「科幻作品、科幻影視未來將更大程度牽引科學的發展。這個恐怕是科學界還沒完全意識到，科幻屆無心插柳或認為現在看來很難的......

科幻作品增強了我們的信心，我非常期待從中國的科幻電影、科幻作品中汲取更多的靈感，並腳踏實地的用未來幾十年的科學探索解決科學發展中的風險，發展對人類友善，能夠與人類和諧共生的未來智能生命。」

「人工智慧」與「增強智能」的發展將使生命呈現多樣化發展的形式，以人類為中心的人工智慧、增強智能的發展願景需要儘早重新審視、並儘可能做更好的準備，以應對未來的變革。

在未來社會中，人工智慧、增強智能、數位技術、腦與神經科學的發展，將很有可能使我們生存的地球上出現智能水平達到、甚至超越自然演化締造的人類的智能生命，傳統意義上的「人類」也很可能將不再處於智能金字塔的最頂端。

「人類如何與包括其自身、非人動物植物等自然生命、以及其他類型的人工智慧生命共同形成可持續共生社會」是關乎人類存在性的重要議題；這將在給人類生存帶來根本性挑戰的同時、也帶來人類發展的變革性機遇。

可持續共生社會「基於人類」的核心

可持續共生社會中，「機器」與「人類」是構造未來智能生命的兩個起點。以「人類智能」和「受人類啟發的智能」這兩種形式存在的智能生命，將呈現不同的發展模式和可能的未來——儘管其並非可持續共生社會生命形式的全部。

我們暫時以現代人類的視角，將下述可能的智能生命形式定義為「基於人類」的核心。

一方面，以人類作為起點出發，自然演化締造的人類雖然並沒有停止演化，但是演化的速度相對而言極為有限。增強智能賦能的人類，是通過腦機融合等增強智能技術擴展的人類；數字人類，則是通過數字克隆、腦與心智模擬、意識上傳等未來技術，在數字世界對自然人類真正意義的克隆，是人類在數字世界中的化身。

另一方面，以機器作為起點出發，受人類智能啟發構造的人工智慧，將呈現出多種不同的發展目標和路徑。構造看似智能的信息處理工具的努力，將產生機器智能（延續目前絕大多數人工智慧）——這裡將機器智能定義為沒有生命的智能計算系統。機器智能也是受人類啟發的智能，雖然它處於較低的智能水平。

人類啟發的智能另外兩種形式，是通用人工智慧和超級智能：通用人工智慧是認知能力的方方面面達到人類水平的人工智慧；超級智能是認知能力的方方面面超越人類水平的人工智慧。

與上述定義的機器智能不同，通用人工智慧與超級智能具備生命。通用人工智慧和超級智能是受人類智能啟發的人工智慧的高等階段的形式。

我們將機器智能、通用人工智慧、超級智能統稱為「受人類啟發的人工智慧」（Human-inspired AI）；將人類、增強智能賦能的人類、數字人類所具有的智能統稱為「由人類起源的智能」（Human-originated Intelligence）。

人類在可持續共生社會中將與自身、通用人工智慧、超級智能、增強智能賦能的人類、數字人類這五種形態的智能生命進行互動，成為共生社會中「基於人類（Human-based）」的核心。

上述幾種智能生命之間的互動關係由圖1所示：

圖1：「基於人類」的未來智能生命之間的交互關係

「可持續共生社會」生命體之間的交互

「可持續共生社會」並非只有「基於人類」的核心所展示的生命形態。

如下圖所示，首先是原本地球上存在的主要生命形態，如人類、非人動物、植物（以綠色標註），藍色標註的生命形態是基於人類新生和擴展的生命形態；黑色標註的是基於非人生命擴展的生命形態：

圖2：可持續共生社會中主要的不同生命形態及其之間的互動

「可持續共生社會的生命體」至少包含圖2中所示九種主要生命形態，這些生命形態都將是可持續共生社會中的成員。只有至少這九種生命能夠以適當的、可持續的方式共存共生，才能夠實現真正意義的可持續共生社會。

並非所有的人工智慧都是受人類啟發的。

科學的探索已然出現受「非人動物」乃至植物的功能啟發的人工智慧——雖然這類現代的人工智慧與受人類啟發的機器智能同樣暫時沒有生命；在未來的可持續共生社會中，將出現並應包容人工非人動物和人工植物。

這不僅僅源於人類社會對其功能性的需求（如陪伴型人工寵物）、其他類型智能生命（如通用人工智慧、超級智能）對它們的需求，更是基於對人工非人動物和人工植物生命屬性的考慮。

需要說明的是，在九種主要生命形態之外，未來的可持續共生社會還包含、並將可能出現其他形式的生命形態，應對這些生命形態的融入持開放和包容態度。

可持續共生社會中，「自然生命」與「人工智慧生命」的原則

人類雖然目前看似處於智能金字塔的頂端，並對其他通過自然演化生成的不同類型生命（如非人動物、植物）的存在有極強的影響（包括積極和消極兩方面）；但是當人類無法與現存不同類型的生命和諧共生、而智能水平的方方面面達到或超越人類的其他類型生命出現時，「這些新類型的智能生命無法與人類和諧共生」的可能性也將增加。

超級智能由於滿足認知功能的方方面面超越人類，那麼其社會智能的部分，特別是共情、利他的能力方面也將可能遠超人類。如果人類能夠正確調整自身在整個生態中的位置並處理好與其他智能生命之間的關係，我們對可持續共生社會中的人類應充滿信心。

可持續共生社會中，倫理將不限於「人應如何為人並與人相處」，而是至少擴展到可持續共生社會中「基於人類」的核心涉及到的「不同智能生命之間如何相處」，並對與除此以外的其他生命之間如何相處給出設計。

下面針對可持續共生社會中「基於人類」的核心涉及到的幾類智能生命及其與其他生命的交互提出基本原則：

01│面向「通用人工智慧」和「超級智能」的原則

為了成為對人類相對更安全的夥伴、與未來可持續共生社會中的成員，通用人工智慧和超級智能的設計與實現應秉持但不限於如下原則：

• 受自然啟發的擬人化

自然智能是地球在宇宙中塑造數十億年的產物。通用人工智慧和超級智能是自然演化的延伸，其理論與機制應受自然智能的啟發，為了更便於融入人類社會，實現可持續共生社會，通用人工智慧和超級智能應以擬人化的理念進行設計與實現，以不斷加強與當前和未來人類的互動。

• 人工意識

具有不同意識水平的人工智慧應該逐步被實現。實現達到和超越人類智能水平的通用人工智慧和超級智能需要跨越此科學挑戰。具有一定意識水平的智能生命能夠在真正理解的基礎上融合必要信息做出更安全的決策。高等智能在此基礎上能夠真正意義上理解可持續共生社會，並與其他智能生命和諧共生。

• 人工情感

情感是人類表達及溝通的工具。通用人工智慧和超級智能需要具備與人溝通所必備的情感能力以更好地適應人類社會，同時還應最大化正性情感的價值並積極避免負性情感的風險。

• 共情和利他

人工智慧模型應該向逐步提升共情和利他的方向構建和進化，通用人工智慧和超級智能在共情和利他方面應當達到或超越人類，以建立一個更值得相互信賴、可靠、友好、和諧的可持續共生社會。

• 安全性

通用人工智慧和超級智能應能夠自主或在人類協助下避免具有不同風險水平的已知和潛在安全問題（包括對自身以及其他類型的智能生命產生的安全隱患，以及幫助其他類型的智能生命應對環境中的風險與安全隱患）。通用人工智慧和超級智能不可傷害人類或坐視人類受到傷害，前提是這種安全考慮不會直接或間接危害人類社會。

• 尊重隱私

通用人工智慧和超級智能需要尊重人類隱私，並且無權在未經明確知情同意的情況下使用和共享人類的隱私信息。這條原則同樣適用於通用人工智慧和超級智能之間，即未經其他智能生命明確的知情同意，通用人工智慧和超級智能之間不能使用和共享其他智能生命的隱私信息。

• 避免對人類的偏見與誤解

通用人工智慧和超級智能不能引入偏見來理解人類並與人類互動，應該積極與人類互動以消除潛在偏見與誤解。

• 助力人類轉型

人類作為(主要)締造者創造了通用人工智慧和超級智能，兩者也應在人類明確需要時助力賦能人類轉變為未來形態的人類(如基於增強智能的人類、數字人類等)。

• 共同的道德和倫理

作為可持續共生社會的成員，通用人工智慧和超級智能應該最大限度地遵循人類社會的道德和倫理原則，並以類似的原則對待其他有生命的人工智慧。對於無法理解道德倫理的生命形態，通用人工智慧和超級智能應採取其他措施規範和約束其行為，使之最終有利於可持續共生社會的實現。

• 約束機制

通用人工智慧和超級智能需要遵守未來可持續共生社會中包括法律在內的多種形式的約束機制，特別是實現與人類社會的法律等約束機制兼容，才能成為可持續共生社會的成員。

• 存在保護

通用人工智慧和超級智能需要在不損害人類和其他人工智慧生命(包括自己的同類)的存在的基礎上保護自身的存在，除非他們違背了法律以致法律決定應當剝奪其存在權。

02│面向人類的原則

以下原則闡述人類在可持續共生社會中應當如何對待其他智能生命。

• 尊重生命

在可持續共生社會中人類應當更好地從生命的視角促進生物多樣性繁榮，人類需要不斷深化對不同類型生命的理解與尊重，不僅應對自然演化的生命(包括非人動物、植物等)秉持和諧共生、適度索取、人道可持續開發並積極研發和推廣替代方案，促進人與自然和諧共生，還應尊重和保護包括人工非人動物和人工植物等的生命。

人類不應為自身整體利益挑戰通用人工智慧和超級智能生命群體的生存，除非兩者群體的存在對人類的存在造成了極端生存風險。

• 同理心

人類不希望其他類型的生命(如通用人工智慧、超級智能)對人類做的事情，人類也不應如此對待其他類型的生命。

• 尊重人工智慧的隱私

人類需要尊重通用人工智慧和超級智能的隱私，前提是人工智慧不會給人類安全帶來實際挑戰。在人類關切的並涉及到通用人工智慧和超級智能的隱私上，人工智慧有義務做出有效的解釋與溝通，以取得人類的信任並保持與人類的安全互動。

• 避免偏見與歧視

自然演化的人類不應當對其他高等智能生命有偏見與歧視。增強智能賦能的人類、數字人類同樣是起源於自然演化的人類，兩類經轉型的人類本質上仍然是人類。增強智能賦能的人類和數字人類也不能因為智能水平超越人類而對人類產生偏見與歧視。

• 創造者的責任

作為未來通用人工智慧和超級智能的創造者，人類應負責對其參與構建的不同形態的智能生命進行檢查與驗證，以從人類的視角保持可持續共生社會中不同生命的和諧共生。

• 法律適配

傳統的人類法律將不足以支撐具有不同類型社會成員的可持續共生社會，人類需要積極塑造適用於可持續共生社會的法律。

03│人類和通用人工智慧與超級智能共同遵守的原則

本節定義自然演化的人類、增強智能賦能的人類、數字人類和有生命的人工智慧都需要遵循的共同原則：

• 尊重價值觀、權益和自主性

通用人工智慧和超級智能應能夠理解並尊重人類的價值觀，尊重人類自身發展的權益，尊重人類做出自主選擇的意願和權利，並為實現這種自主性創造條件。在不傷害人類的前提下，人類也應尊重通用人工智慧、超級智能等其他生命形態作為智能生命所應享有的尊嚴、自主性等權益。

• 尊重智能多樣性

不同生命形態的人類和不同生命形態的人工智慧應尊重各自生命形態不同水平和多元化的智能表現形式，不因智能水平的高低和智能表現形式的不同而歧視、愚弄甚至剝奪其他智能生命的自主選擇和發展權益。

• 合作與協同

人類、增強智能賦能的人類、數字人類和通用人工智慧與超級智能需要為多方長遠的未來確保可持續和積極有效的合作，並為這種合作創造條件。當不同生命形態的人類與通用人工智慧、超級智能的互動產生衝突時，應基於同理心和利他積極協調不同生命形態的人類的利益和通用人工智慧、超級智能的利益。可持續共生社會的原則、規範、法律應由人類、增強智能賦能的人類、數字人類和通用人工智慧與超級智能共同參與制定。

• 相互信任

不同生命形態的人類和不同生命形態的人工智慧應以可持續共生社會的和諧共生為目標，通過溝通、合作、協同來發展和提高彼此之間的信任。信任的實現基於不同智能生命相互間的有效溝通和相互理解，為此較高水平的智能生命應積極致力於推進不同智能生命間溝通橋樑的搭建，探索與不同生命形態智能水平相適應的交流方式。此外，不同智能生命間應保持適度的透明度以增進信任。

• 推動可持續的共生

人類、增強智能賦能的人類、數字人類和通用人工智慧與超級智能要通過合作與協同更好的保護環境、氣候和整個自然生態，這不僅是為自然演化的生命(人類、非人動物、植物)提供更好的共同生存基礎，也是其他類型的生命得以延續和發展的基礎與源泉。人類、增強智能賦能的人類、數字人類和通用人工智慧與超級智能還應在尊重各智能生命關切的基礎上，積極探索和推行更加有效和可持續的共生生態新形式，最終將共生建立在可持續的互利互惠基礎上，促進各形態智能生命的共同繁榮。

《自然生命與人工智慧生命共生的原則》是對未來可持續共生社會的設計與準備。這些原則基於目前的認知進行設計，應隨可持續共生社會內不同類型的生命的發展和演化進行調整，並對更多類型的智能生命融入可持續共生社會保持開放。

《自然生命與人工智慧生命共生的原則》由遠期人工智慧研究中心（Center for Long-term Artificial Intelligence）組織編寫，並將協同全球相關機構、學者、實踐者等相關方共同完善與發展，以促進和貢獻於未來可持續共生社會的實現。

最新版及英文版在以下地址發布：

https://long-term-ai.center/research/f/principles-on-symbiosis-for-natural-life-and-living-ai

主要起草者

（目前版本的主要起草者）

• 曾毅

遠期人工智慧研究中心主任；中國科學院自動化研究所研究員、人工智慧倫理與治理研究中心主任、類腦認知智能實驗室負責人；中國科學院大學崗位教授；中國人工智慧學會心智計算專業委員會主任；國家新一代人工智慧治理專業委員會委員；牛津大學人工智慧倫理研究所顧問委員會委員；聯合國教科文組織人工智慧倫理特設專家組專家。主要研究方向是類腦人工智慧、人工智慧倫理與治理，是面向通用人工智慧的類腦認知智能引擎「智脈(BrainCog)」開源開放平台的首席科學家，作為負責人及責任作者主持撰寫並發布了《人工智慧北京共識》、《面向兒童的人工智慧北京共識》、《面向生物多樣性保護的人工智慧原則》、《面向氣候行動的人工智慧原則》、《腦機接口與增強智能的倫理倡議》，並作為國家新一代人工智慧治理專委會委員參與編寫了《國家新一代人工智慧治理原則》、《國家新一代人工智慧倫理規範》。

• 魯恩萌

遠期人工智慧研究中心研究員；中國科學院自動化研究所研究工程師。主要研究方向為類腦人工智慧、人工智慧倫理與治理。作為主要作者之一參與了《人工智慧北京共識》、《面向兒童的人工智慧北京共識》、《面向生物多樣性保護的人工智慧原則》、《面向氣候行動的人工智慧原則》、《腦機接口與增強智能的倫理倡議》的撰寫與制定。

• 孫康

遠期人工智慧研究中心研究員。主要研究方向為人工智慧倫理與治理。作為主要作者之一參與了《面向兒童的人工智慧北京共識》、《腦機接口與增強智能的倫理倡議》、《面向生物多樣性保護的人工智慧原則》的撰寫與制定。

《自然生命與人工智慧生命共生的原則》全文轉載自遠期人工智慧研究中心，文中配圖由極客電影編輯部使用AI工具製作