原創 | SF中文
kexuejiaodian
把AI應用於戰爭將會帶來可怕的、不可控的後果。如果AI真的向人類宣戰，我們很可能毫無勝算。
文 | 史蒂芬·凱利（Stephen Kelly）
譯 | 禮世傑
編 | 陳強
視覺設計 | 夏夢
原文刊載於《科學焦點》2023年第12期
最新科幻電影《AI創世者》（The Creator）講述的是一場人類與人工智慧（AI）之間的存亡之戰。這種科幻主題其實不算新穎，但與經典科幻電影《終結者》（Terminator）的關鍵區別在於，這部電影描繪的未來已經不再是遙遠的幻想，而是越來越接近科學事實。
比如說，最近幾個月，我們看到了許多關於AI會對人類構成「生存威脅」的警告。AI不僅有朝一日能寫出比我這篇專欄更精彩的文章，還可能在戰爭領域中引發可怕的、不可控的後果。
如果AI能自主地操控武器
顯然，最令人擔憂的問題是，未來AI也許能自主地操控武器。《四個戰場：人工智慧時代的力量》（Four Battlegrounds: Power in the Age of Artificial Intelligence）一書的作者、新美國安全中心副總裁保羅·沙爾（Paul Scharre）引用了幾年前美國國防部高級研究計劃局舉辦的「阿爾法狗斗」（AlphaDogfight），來說明這一問題的嚴峻性。「阿爾法狗斗」是一場人機對決的空戰模擬比賽，但在比賽中，AI輕鬆擊敗了經驗豐富的人類飛行員。
沙爾表示：「AI不僅以15比0的大比分戰勝了人類飛行員，還展現出了人類難以企及的技能。比如說，它能以非常高的精度開火射擊。」
然而，賦予AI做出生死抉擇的權力也會引發諸多令人不安的問題。例如，如果AI犯了一個錯誤，意外地殺死了一個平民，這會怎樣？「這將構成戰爭罪，」沙爾說，「而困難在於，可能根本沒有人對此事負責。」
如果AI被用於戰術制定和情報分析
不過，在不久的將來，AI在戰爭領域中最可能被用於戰術制定和情報分析。沙爾說：「AI可以更有效地處理信息，提高軍隊的作戰效率。我相信，軍隊會越來越傾向於將決策權交給AI，因為戰場是一個殘酷的競爭場所。如果未能抓住一個稍縱即逝的機會，那你將處於巨大的劣勢之中。」
沙爾認為，這可能引發一場AI軍備競賽。「一些學者甚至還提出了『戰場奇點』假說，」他說道，「也就是說，AI的決策速度將會超過人類的理解速度，而人類實際上不得不將戰場上的決策權全都交給AI。」
當然，在這種情況下，人類就有可能失去對AI的控制，甚至被AI攻擊。因此，美國制定了一項政策，規定任何與核武器有關的決定都必須有人類參與。
沙爾甚至認為，如果最壞的情況發生了，AI真的向人類宣戰，我們很可能毫無勝算。
「我的意思是，黑猩猩能在戰爭中戰勝人類嗎？」他又舉例說，「AlphaGo不僅戰勝了世界圍棋冠軍，甚至從對弈過程來看，AlphaGo的實力明顯超過人類的頂尖棋手。而且這種變化發生得非常快，就在七八年前，這種情況還是不可想像的。」
「我們正在建造越來越強大的AI系統，將其應用到各個領域中，但它們也變得越來越難以理解和掌控。我認為，如果我們真能製造出比我們更聰明的機器，那麼我們將會面臨很多問題。」
結論
所以，按照目前的發展速度，如果AI失控，人類可能面臨巨大的威脅。