美國智庫Brookings:人工智慧與安全困境

2019-11-26     無人機網

(本文譯自Brookings網站!)

編者註:

人工智慧將會對大國之間的安全產生什麼影響?Christopher Meserole寫道,在美國和中國這兩個領先的人工智慧生產國之間,我們已經保持了謹慎的眼光,這個問題已經不是一個無聊的問題了。

機器學習和人工智慧(AI)方面的最新突破促使人們對其國家安全應用進行了越來越惴惴不安的猜測。然而,大多數工作只集中在其對自主武器系統的影響上,而不是在更廣泛的安全環境上。除了麥可·霍洛維茨和少數人的,很少有學者已經勾勒出AI會如何影響國際關係和外交政策的核心問題。如果我們要維持穩定的國際秩序,我們需要更好地了解人工智慧如何加劇安全困境以及如何應對。

安全困境

自1949年首次提出安全困境以來,政治學家們一直在猜測和試圖解破安全困境。兩次世界大戰爆發後,國際關係學者對一個令人不安的可能性感到困惑:如果即使雙方都不需要,戰爭也可能爆發呢?如果一個國家不確定其競爭對手的軍事意圖和能力,那麼該國家儲存武器並建立自己的軍事力量來應對這一問題將是合理的。競爭對手可能會採取這種預防措施作為侵略的標誌,並採取實物應對措施,從而引發進一步的軍事集結並使兩國走上戰爭之路。從本質上講,對安全性的追求會使國家的安全性降低。

從冷兵器時代的弓箭和到熱兵器的核武器,軍事技術的重大發展自始至終加劇了安全困境產生。新技術帶來了軍事能力的不確定性:每一項進步都帶來了不確定性,包括使用方式。例如,在1930年代,每個主要大國都明白雷達、機械化火炮和飛機所帶來的非同尋常的能力。但是沒人能確切知道(至少在德國突襲波蘭和法國之前),它們是如何在戰鬥中使用的。同樣,在冷戰初期,美國和蘇聯都擔心對方可能會開發比自己強大的核飛彈,結果是一場駭人聽聞的核軍備競賽。

人工智慧引入了兩種不確定性的形式。還沒有人確切知道在戰場上將如何使用支持AI的武器,更不用說這些武器所帶來的破壞力。

當今的具備AI產品不僅僅局限於現有的武器和指揮控制中心,而是自下而上地融入其中時,會發生什麼?

在戰術層面上,AI作為一種使能技術而帶來了巨大的不確定性。AI本身並沒有內置在單個武器系統中,而是內置在各種各樣的武器系統和核心基礎架構中。坦克、大炮、飛機、潛艇-每個版本都可以自行檢測物體和目標,並據此進行機動。同樣,AI也正在命令和控制中心以及後勤基礎設施內進行部署。然而,尚不清楚這些創新將如何改變衝突的性質。成群的無人潛艇會對海戰產生什麼影響?哪支軍隊將最擅長整合AI進入其武器系統和戰術,它將傳遞出多少在戰場上優勢?儘管人們對這些問題進行了廣泛的猜測,但是答案仍然是難以捉摸的,並且在某種程度上還不能解決問題。從軍事戰略家的角度來看,最重要的是根本需要提出問題。競爭對手可能會以創新和出乎意料的方式使用AI武器系統的前景足以加劇現有的安全隱患。

然而,儘管人們對如何使用AI存有疑問,但最終的功能仍存在更大的不確定性。AI是算法、數據和計算能力的函數。這些因素中的每一個都具備顧慮,又在指數級的範圍內得到了改善,這意味著我們可以在短期而非長期內相當可靠地預測AI的進度。在算法方面,隨著時間的推移,轉移或一次性學習的進步可以從根本上提高AI的熟練程度,甚至可以提高「常識」。在硬體方面,神經形態處理器和量子計算的進步可能會增強當今AI的能力。可以肯定的是,仍有爭論有關最適合用於機器學習最常見形式的優化算法的量子計算機的適用性。然而,量子機器學習仍然具有巨大的前景-特別是對於有效搜索巨大的行動空間(例如,多主體的無人機群必須管理)。鑒於今天的GPU(圖形處理器)在多主體強化學習方面取得的突破,令人難以想像的是美國或中國軍隊將如何應對明天的量子計算。(實際上,這就是為什麼中國不僅要在2030年前成為AI的世界領導者,而且還要贏得量子計算競賽的部分原因。)

對於今天的軍事戰略家來說,如何使用人工智慧以及如何使用人工智慧的不確定性構成了巨大的挑戰。一方面,一個敵對國家可能會以新穎的方式使用其武器系統AI化,並獲得德國曾經對閃電戰所做的那種先發優勢。另一方面,強國可能會自己開發更好、更強大的AI武器,並利用它獲得無法克服的軍事優勢。任何一種前景都足以加劇現有的安全困境。

該怎麼辦 ?

如何解決大國爭奪的「不可還原的困境」絕非易事。今天,當世界兩個主要大國-中國和美國-越來越不確定對方的軍事能力及其意圖時,尤其如此。

幸運的是,這兩種力量都可以減少AI帶來的不確定性。關於AI的使用方式,每位軍人都可以依靠紅隊和戰爭遊戲來思考新穎和創新的策略。此外,每個人都可以公開廣播新的戰術功能。像去年六月舉行的中國海軍演習,他們指揮一個由50多架無人機組成的集群,並進行了測試,這減少了人們對其如何實際使用AI武器系統的不確定性。

更為困難的問題是如何防止AI未來發展的不確定性,並進一步破壞兩國之間的安全困境。有爭議。

文章來源: https://twgreatdaily.com/RQoRqm4BMH2_cNUgpJMA.html