（來源：江蘇省科協）
人工智慧發展的勢頭越來越猛，由此也引發了各界人士對安全問題的深思，人文學科領域的學者從道德倫理與哲學規範的角度對安全問題提出了擔憂，人工智慧技術領域的學者也從系統安全的角度對安全問題進行了剖析。最近，中國工程院院士、中國電子信息產業集團首席科學家方濱興發表學術論文《人工智慧安全之我見》，詳細闡述了人工智慧在哪些領域會產生危險，如何通過技術革新平衡人工智慧與安全之間的發展問題。
人工智慧技術存在著巨大的安全性挑戰。目前人工智慧系統還無法超出固有的場景或對特定語境的理解，人工智慧技術在下棋或遊戲等有固定規則的範圍內一般不會暴露其脆弱性，當環境數據與智能系統訓練的環境大相逕庭，或者實際的應用場景發生變化，或者這種變化超出機器可理解的範圍時，人工智慧系統可能就立刻失去判斷能力。美國智庫「新美國安全中心」最近發布的《人工智慧：每個決策者需要知道什麼》報告顯示，人工智慧的一些弱點可能對國家安全等領域造成巨大影響。
當前，人們已經開始關注人工智慧自身的安全問題，霍金曾經在2015年8月與美國Reddit網的問答互動中，提出了人工智慧「威脅論」的觀點，後又曾多次在世界知名期刊撰文強調類似看法。比爾·蓋茨稱，人類在人工智慧領域已經取得了很大進展，這些進展能讓機器人在接下來的10年內學會駕駛和做家務，在一些特定的領域甚至能比人類優秀。但是之前他曾經提出警告，「人工智慧如果進展太快，可能會對未來的人類造成一定威脅」。特斯拉創始人馬斯克在Code大會上也預測智能機器人未來，他認為未來人類生活將離不開虛擬現實技術，而這一技術的高度發展將使人類很難分辨出真實與遊戲的區別；加之人工智慧的飛速發展，人類智商將會止步不前；最為嚴重的後果是機器人反超人類成為實際運營世界的主體，人類在機器人心中可能如寵物一般的存在。
人工智慧作為最具顛覆性和戰略性的核心關鍵技術，持續引起全球產業界、學術界和各國政府的高度關注。當前，人工智慧技術在安全領域的應用需求日益迫切，同時，人工智慧自身的安全問題也不容小覷，安全與人工智慧並舉，雙方的融合發展與創新是我國強國戰略中不可忽視的重要助推因素。（金鑫）
文章來源: https://twgreatdaily.com/cnBQV3MBiuFnsJQVbs58.html