美國與其他17個國家達成協議，將致力於保護人工智慧安全
文 | Britney Nguyen
包括美國在內的18個國家昨天發表了一項國際協議，重點是確保人工智慧在開發和部署過程中的安全，並呼籲創建和使用人工智慧系統的AI公司在"設計上確保其安全"，以防止不法分子的侵害。這是解決人工智慧開發和安全問題的最新一項政府間倡議。
關鍵事實
這份人工智慧安全指南由美國國土安全部網絡安全和基礎設施安全局和英國國家網絡安全中心聯合發布。
這份20頁的不具約束力的協議稱，人工智慧公司需要保護客戶和公眾的安全，使他們在開發、部署和維護人工智慧系統的過程中免受濫用危害。
該協議包括關於保持人工智慧系統安全的建議，例如監控濫用、保護數據不受黑客攻擊、確保軟體供應商合法以及建議公司在安全測試後發布模型。
該指南還概述了在設計、開發、部署和維護階段保護人工智慧系統的步驟。
德國、義大利、挪威、澳大利亞、智利、奈及利亞和新加坡都是該協議的成員國。
谷歌、微軟和 OpenAI 等組織為制定該指南做出了貢獻。
重要言論
美國網絡安全和基礎設施安全局局長Jen Easterly對路透社表示:「這是我們第一次看到對（AI）這個方面的肯定和承認，即這些技術不應該僅僅是很酷的功能，關於它們的討論也不應該僅僅是我們能多快把它們推向市場，或者我們能如何通過競爭降低成本。」
關鍵背景
今年10月，拜登總統發布了一項內容廣泛的行政令，重點是防範「人工智慧的潛在風險」，並鼓勵政府機構和科技行業解決與人工智慧開發相關的隱私、信任和安全問題。該行政令還規定，根據冷戰時期的《國防生產法》，開發可能威脅國家安全、經濟或公共健康的人工智慧系統的人工智慧公司必須與美國政府共享安全測試結果和其他相關信息。據路透社報道，本月早些時候，德國、法國和義大利加入了一項關於監管人工智慧的協議，稱他們支持人工智慧模型"通過行為準則進行強制性自我管理」。歐洲立法者在起草與人工智慧開發和安全相關的立法方面領先於美國，包括面部識別和生物識別監控的規則，但歐盟在最終確定其人工智慧法案時也遇到了挫折。
譯自https://www.forbes.com/sites/britneynguyen/2023/11/27/us-joins-17-other-countries-in-agreement-to-keep-ai-safe/?sh=7991a7d97dc2