人工智慧第三定律：計算的未來是模擬｜賽先生

在人工智慧研究如火如荼的今天，似乎也是時候回過頭來思考一下模擬計算在未來所具有的意義。當人類已經習慣於通過數字化編程控制機器，也許以神經網絡為代表的模擬計算會把對於世界的控制權從人類手中奪走。這是一個值得探究的技術問題，同時也是一個不容忽視的倫理問題！

撰文 | 喬治·戴森

以電子數字計算機誕生，以及它們生成的代碼遍布全球的時間前後劃分，計算的歷史可以分為新舊兩個時期。舊時期的先知有托馬斯·霍布斯和萊布尼茨，他們帶來的是計算的邏輯基礎。新時期的先知則包括艾倫·圖靈、約翰·馮·諾伊曼、克勞德·香農和諾伯特·維納，他們帶來了機器。

艾倫·圖靈對如何讓機器變得智能很感興趣。馮·諾伊曼的興趣是如何讓機器能自我複製。克勞德·香農想了解如何排除噪聲的干擾，讓機器可靠地通信。而諾伯特·維納想知道的是機器需要多長時間能掌握控制權。

1949年維納發出警告，提出控制系統將脫離人類控制，當時正值第一代存儲程序電子數字計算機問世。因為這些系統需要人類程式設計師的直接監督，所以世人並未把他的這番顧慮放在心上。只要程式設計師們還控制著這些系統，又能有什麼問題呢？自此，關於自主控制的風險的爭論便一直與對數字編碼機器的威力和局限性的爭論有關。雖然這些機器擁有驚人的能力，但幾乎沒有真正的自治。這是一個危險的假設。如果數字計算被其他東西取代了，會怎樣呢？

電子工業在過去的幾百年中經歷了兩個根本轉變：從模擬到數字，從真空管到固態器件。這些轉變一起發生，但並不意味著它們有著密不可分的聯繫。正如使用真空管可以實現數字計算一樣，模擬計算也可以在固態器件中實現。即使真空管在商業上已經消失，但模擬計算仍舊十分活躍。

模擬計算和數字計算之間沒有精確的區別。一般而言，數字計算涉及整數、二進位序列、確定性邏輯和被理想化為離散增量的時間。而模擬計算涉及實數、非確定性邏輯和連續函數，以及存在於現實世界中的連續時間。

想像一下，你需要找到一條路的中間點。你可以使用任何可用的增量來測量它的寬度，然後用數字方法計算出距離中間點最近的增量。或者，你可以使用一根帶子作為模擬計算機，量出道路的寬度然後對摺直接找到中間點。這種方法不受增量的局限。

許多系統在模擬和數字之間轉換運行。一棵樹將各種各樣的輸入整合成連續函數，但是如果你砍倒那棵樹，你就會發現它一直在用數字方法計年。

在模擬計算中，複雜性存在於網絡拓撲結構而不是代碼里。信息被處理為諸如電壓和相對脈衝頻率之類的值的連續函數，而不是對離散的位串的邏輯運算。因為不能容忍錯誤或模糊，數字計算需要隨時糾正錯誤。而模擬計算可以容忍錯誤，允許錯誤的出現。

自然界使用數字編碼來存儲、複製和重組核苷酸序列，但依賴模擬計算運行神經系統，獲得智能和控制。每個活細胞中的遺傳系統都是一個具有存儲程序的計算機。但大腦不是。

數字計算機在兩種比特之間進行轉換：表示空間差異的比特和表示時間差異的比特。這兩種形式的信息、序列和結構之間的轉換是由計算機編程控制的，只要計算機需要人類程式設計師，我們就可以掌握控制權。

模擬計算機也在兩種信息形式之間進行轉換：空間結構和時間行為。沒有代碼，沒有編程。我們還無法完全理解自然界是如何進化出模擬計算機的，這種模擬計算機就是神經系統，它們體現了所有我們從世界吸收的信息。它們學習。它們學習的內容之一就是控制。它們學習控制自己的行為，學習儘可能地控制自己的環境。

甚至可以追溯到計算機科學誕生之前，計算機科學就已經開始實現神經網絡了，但在大多數情況下，這些都是通過數字計算機模擬的神經網絡，而不是自然界中自然進化的神經網絡。現在這一切開始改變：自下而上的，是無人戰鬥機、自動駕駛汽車和手機這三駕馬車推動了神經形態微處理器的發展，這種微處理器將真正的神經網絡而不是模擬的神經網絡直接實施在矽片或其他基片上。自上而下的，則是我們最大、最成功的企業在滲透和控制世界時越來越多地轉向模擬計算。

當我們爭論數字計算機的智能時，模擬計算已悄然超越了數字計算，就像在第二次世界大戰之後，像真空管這樣的模擬組件被用來建造數字計算機一樣。可以運行有限代碼的、單獨確定的有限狀態處理器，正在創造大規模具有不確定性、非有限狀態的多細胞生物，它們在現實世界中恣意橫行著。所產生的模擬、數字混合系統共同地處理比特流，就像在真空管中處理電子流一樣，而不是像產生流動的離散狀態裝置那樣一個個地處理比特。比特是新的電子。模擬再次回歸，其本質是控制。

從物流到車流再到意識流，所有這些系統都按照統計運行，就像脈衝頻率編碼信息在神經元或大腦中處理一樣。智能的出現引起了智人的注意，但我們應該擔心的是控制的出現。

想像一下，在1958年，你正試圖保衛美國大陸免受空襲。為了區分敵機，你需要的除了計算機網絡和預警雷達站點之外，還需要一個完備的、實時更新的商業空中交通地圖。美國建立了一個這樣的系統，命名為SAGE（半自動地面防空系統）。SAGE又催生了Sabre，這是第一個實時預訂航空旅行的綜合預訂系統。Sabre及其衍生品很快就不僅能提供可預訂座位圖，還能根據分散的情報，控制客機將飛往的目的地和起飛時間。

但是在某個地方有沒有一個控制室，有人在操控呢？也許沒有。比如說，你建立一個公路交通實時顯示系統，當汽車進入這個區域時，你就可以得知汽車當時的速度和行駛地點。這是一個完全分散的控制系統。除了系統本身之外，沒有任何系統控制模型。

想像一下，現在是21世紀的第一個10年，你想實時追蹤人際關係的複雜性。欲了解一個小學院的社交生活，你可以構建一個中央資料庫，時刻更新，但在更大範圍內，這個資料庫的維護會非常困難。最好是發出一個簡單的半自治代碼的免費拷貝，本地託管，讓社交網絡自己更新。這個代碼由數字計算機執行，但是由系統整體執行的模擬計算，其複雜性遠遠超過底層代碼。由此得到的社交圖的脈衝頻率編碼模型便成為社交圖本身。它自校園蔓延開來，直至蔓延到整個世界。

如果你想製造一台機器，讓它明白人類所了解的一切到底是什麼意思，該怎麼辦？有了摩爾定律，很快世界上所有的信息都將數字化。你可以掃描印刷過的每一本書，收集人們寫過的每一封電子郵件，每天整理最近49年的視頻，同時實時追蹤人們的位置以及他們做的事情。但是你如何理解其中的含義呢？即使在數字時代，你也無法用嚴格的邏輯概念來定義這一切，因為對於人類而言，含義並不是合乎邏輯的。當你收集了所有可能的答案後，你最多能做的就是提出明確的問題，然後編譯一個脈衝頻率加權圖，來說明所有事物是如何關聯的。還沒等你意識到，你的系統就已經不僅能觀察和繪製事物的意義圖，甚至能開始構建意義了。一段時間後，它便會控制意義，就像交通圖開始控制交通流量一樣，即使似乎沒有人在控制這一切。

關於人工智慧，我們有三條定律。

第一定律是阿什比定律，這一定律以控制論專家、《大腦設計》（Design for a Brain）一書的作者W.羅斯·阿什比（W.Ross Ashby）的名字命名。該定律認為任何有效的控制系統必須與它控制的系統一樣複雜。

第二定律由馮·諾伊曼提出。該定律指出，一個複雜系統的定義特徵一定包含對其行為的最簡單的描述。生物體最簡單的完整模型是生物體本身。試圖減少系統行為，達到任何形式化描述的程度，只會使得事情變得更複雜，而不是變得更簡單。

第三定律指出，任何一個簡單到可以理解的系統都不會複雜到可以智能化行事，而任何一個複雜到足以智能化行事的系統都會太過於複雜而無法理解。

第三定律給那些相信在理解智能之前，我們不用擔心機器會產生超人類智能的人帶來安慰。但第三定律存在漏洞。我們完全有可能在不理解時構建某個東西。構建一個能運作的大腦，你不需要完全理解它是如何運作的。無論程式設計師及其倫理顧問如何監控計算程序，他們都永遠無法解決這個漏洞。可以證明的是，「好的」人工智慧是個神話。我們與真正的人工智慧之間的關係將永遠是一個信仰問題，而不是證據問題。

我們過於擔心機器智能，卻不太擔心機器的自我複製、通信和控制。計算的下一個革命將以模擬系統興起、數字程序對模擬系統不再有控制權為標誌。對那些相信他們能製造機器來控制一切的人，大自然對此的反應將是允許他們建造一台機器，來控制他們。