2020年1月，蘭德發布了題為《Deterrence in the Age of Thinking Machines》（思維機器時代的威懾）的研究報告，分析了會思考的機器人（Thinking Machine，人工智慧）如何改變未來戰爭。在報告中，研究人員討論了威懾的關鍵概念，給出了人工智慧和自主系統的簡要背景，確定了隨著人工智慧系統的使用可能會對威懾和升級帶來影響的關鍵因素，呈現了多個國家使用人工智慧和先進自主系統進行對抗的未來戰爭場景，給出了這些技術對威脅和升級帶來的潛在影響，並確定了未來的研究領域。
該報告研究並嘗試回答以下4個問題：
- 將具有思維的機器人和自主系統加入到各國表明使用武力及其潛在後果的實踐中，會產生什麼影響？
- 當能夠以機器的速度做出決策，同時由不危及使用國公民生命的力量執行時（比如機器人），威懾和升級會發生什麼情況？
- 這些能力的增強會怎麼樣對威懾帶來影響？
- 有哪些潛在的誤判和意外的後果？
一、概 述
人工智慧和自主系統有改變未來戰爭的巨大潛力。隨著戰場上無人系統的使用、商業級AI取得的突破、許多國家將AI和自主系統應用于軍事的興趣，都使得人工智慧和自主系統有望廣泛應用於未來戰爭中。
二、人工智慧與自主系統的兵棋推演
該主題研究的核心是一場兵棋推演，其中涉及美國、日本、韓國、朝鮮和某亞洲大國等國家。在未來這些國家將人工智慧和自主系統應用於戰爭場景中，某亞洲大國是一方，而美、日、韓是與該亞洲大國對抗的另一方聯盟。該戰爭場景中，該亞洲大國是全球大國，美國、日本和韓國仍然是與該亞洲大國對抗的盟友。推演的目的不是為測試或發現使用這些技術的玩家如何與其他人抗衡，而是在操作框架中進行有條理的對話，討論人工智慧和自主技術如何隨著事件的發展影響局勢升級和威懾方式。
以下為推演假設：
兵棋推演始於一亞洲大國試圖對該地區實施更大的控制，美國和日本抵制這一企圖。推演在幾個方面進行了衝突升級，先是無人系統之間的衝突，最終演變成該亞洲大國與美國兩國軍事人員被殺的衝突。美國和日本進行聯合演習，故意挑釁該亞洲大國。為了對日本某些港口實施封鎖，該亞洲大國採取了逐步升級的步驟，宣布進行無限制的潛艇戰爭，並擊沉了一艘日本無人貨船。美國和日本的反潛戰裝備隨後擊沉了一艘亞洲大國載人潛水艇，這是該推演場景中的第一艘載人潛水艇。美國和日本在這一點上無法緩和局勢。該亞洲大國以飛彈襲擊美國和日本的艦隊作為報復，也造成了人員傷亡。推演結束時，危機仍在升級。
三、兵棋推演的相關發現
與無人系統相比，載人系統可能更有利於威懾。在兵棋推演中，美國和日本的系統更多地使用的是無人系統，而該亞洲大國有很多的載人平台。由於此亞洲大國載人系統平台上存在人員，使得美日兩國在使用武力時更加猶豫，並經常將尋找方案以避免引發進一步升級的責任推到美日身上。
用無人系統取代載人系統可能並不會降低安全承諾。儘管在威懾程度方面，載人系統可能比無人系統要好，但用無人系統取代載人系統並不總是被視為美國減少對該地區盟國承諾的標誌。
自主系統的加速使用確實導致了戰爭的意外升級。設置為自主模式的系統對人類其實並不打算使用武力的情況，可能會意外的作出使用武力的反應。
距離仍然非常重要。人工智慧在決策中的存在，創造了混淆玩家和將不確定性插入動態的可能性，參與推演的國家在不同層次上混合了不同類型的的人機架構，且玩家可能顯著高估對手在不可觀察領域的現代化程度，比如人工智慧。
四、對威懾的影響
自主和無人系統會影響延伸性威懾以及向盟國兌現承諾的能力。在兵棋推演中，盟國並不認為用機器人取代美軍是承諾減少的表現，但情況並非總是如此。如果盟國認為自主和無人系統更有能力，或者他們認為美國領導人更可能使用自主系統，那麼自主系統可以提高美國常規、擴大威懾的可信度。另一方面，盟國可能會把美國對無人系統的依賴看作是不願意在與對手的對抗中讓美國的生命處於危險之中。這可能會降低美國向盟國保證的能力。
廣泛的人工智慧和自主系統可能導致意外的升級和危機不穩定。以機器速度做出的決定也有可能使危機以機器的速度升級。在曠日持久的危機和衝突中，各方可能有強烈的動機儘早廣泛地使用自主系統，以獲得軍事方面的優勢。這就增加了首次打擊不穩定的可能性。人工智慧和自主系統也有可能會降低對手之間的戰略穩定性，並進一步擴大使用武力的可能，因為這些系統會降低軍事人員的風險。美國和該亞洲大國之間的自主系統軍備競賽已經迫在眉睫，這可能會加劇不穩定的情況。
人類與智能代理的不同組合可能會影響兩者之間的升級動態。在兵棋推演中，美國和日本軍隊走上了一條主要使用無人系統和有人控制的道路，而該亞洲大國軍隊則使用由機器控制的載人系統。這就形成了一種動態，其中美國和日本由於不願意殺害該亞洲大國人曾多次嘗試解除危機，但該亞洲大國似乎並不覺得有必要解除危機。
機器在理解人類威懾性方面可能會更差。人工智慧正被積極用於創造戰術和作戰優勢，這可能會誤解對手嘗試解除危機的信號，和避免進一步升級或主動解除危機的情況。
傳統的威懾主要是關於人類試圖了解其他人類，而在這個智能的新時代，威懾涉及到許多其他途徑的理解。人類不僅必須了解敵手，還必須充分了解自己的（智能）機器和敵手的（智能）機器。同時，機器還必須準確地理解友軍、敵軍和敵軍的（智能）機器。這些其他途徑的理解可能會帶來誤解和誤判的可能性。隨著時間的推移，持續的現代化意味著國家使用的系統將可能是新系統和遺留系統的混合體，這可能會使人們難以理解軍隊中全部的人機互動。
在過去，自動系統經常會有無意中與友軍或平民目標交戰的案例，這可能會帶來一些更先進系統的技術事故或故障的質疑。
軍事自主系統並不是一個新的概念，地雷、魚雷、方陣反導系統和宙斯盾武器系統等自主系統的交戰也不鮮見。在許多過去的案例中，人和系統識別錯目標是一個常見問題。人工智慧有可能提高目標識別率，減少這種誤差。在與更複雜的系統進行交互時產生的人類錯誤可能會帶來一些新的非故意的接觸。
人工智慧和自主系統有可能會對威懾帶來潛在的巨大影響。機器決策的速度、機器決策與人工理解的差異、不同國家是否願意使用自主系統、在該領域缺乏經驗、以及在相關領域能力的持續發展都是可能會產生影響的因素。當前的規劃和發展還跟不上處理這些新技術帶來的升級問題的步伐。
五、未來研究方向
進一步研究威懾理論和其他框架，明確考慮人工智慧和自主系統的潛在影響。為了成功管理預期的威懾活動和避免非預期的升級活動，非常有必要進行一些其他的思考。阻止人工智慧和自主系統向軍事領域應用的擴展是不可能的，所以在執行防禦政策時，需要將其影響納入考慮範圍。在核威懾方面已經做了很多工作，因此研究人員建議：
評估新系統的升級潛力。研究人員建議對提出的人工智慧實現方案進行系統級的評估，以評估在其設計、開發、測試或使用中應考慮的所有升級影響。其中既包括用來訓練算法的數據，也包括在測試後對系統進行建議的檢查以監視現場的行為，以及將系統集成到人員和其他機器的流程中，以更好地管理可能發生的意外升級。
評估新作戰理念的升級潛力。除了了解在系統層會發生什麼外，還需要了解AI賦能的決策過程如何處理決策，以及使用AI和自主系統的作戰概念是否會導致錯誤計算或引發意外升級。給定的概念是否允許降級？怎麼用？給定的作戰概念本質上是否更具有升級性，或提供更多的作戰優勢？
作戰和戰略層面的其他戰爭場景。兵棋推演對於更好地理解意外的後果來說是一個特別有用的工具。報告中，研究人員探討了在一個地理區域範圍內，包含一周的活動的作戰級推演。具有更多場景、更多對手和盟友的推演可能會得出不同的觀點。在更大時間範圍內進行戰略層面的推演可能會引發升級和軍備競賽的不穩定性。
進一步研究對手和盟友的自主系統及其對自主系統的使用理念。威懾和保證不僅僅是要了解自己所擁有的能力，也涉及對對手和盟軍能力的了解。知己知彼，百戰不殆，對雙方的人工智慧和自主系統以及使用理念的了解是非常重要的。這些信息有望改善與盟國的互操作性，使美國的規劃者可以更好地預測對手的決策周期。
增加與對手和盟國的透明度。在冷戰期間，美國、盟國和其他合作過的國家需要考慮開發新的信號和機制來管理升級的信號和機制。軍隊如何構造和使用這些系統的透明度可能有助於更好的溝通、減少誤解和誤判。