美國總統喬·拜登（Joe Biden）今天發布了一項行政令，制定了（美國）迄今為止最全面的人工智慧規則和指南。該行政令將要求人工智慧公司提高其模型工作方式的透明度，並將制定包括標註人工智慧生成內容在內的一系列新標準。
（來源：AI 生成）
白宮表示，該行政令的目標是改善「人工智慧安全」。它還包括一項要求，如果測試表明該技術可能對國家安全構成風險，則開發人員必須與美國政府分享新人工智慧模型的安全測試結果。這是一個令人驚訝的舉動，它援引了通常在國家緊急狀態期間使用的《國防生產法》。
該行政命令進一步推動了白宮 8 月份制定的人工智慧政策的自願要求，但缺乏有關如何執行規則的具體細節。行政令也很容易隨時被未來的總統推翻，而且它們缺乏通過國會進行人工智慧立法的合法性，不過這在短期內看起來不太可能實現。
哥倫比亞大學專門研究數字監管的法學教授阿努·布拉德福德（Anu Bradford）表示：「美國國會兩極分化嚴重，甚至無法履行它的職能，在近期都不太可能制定任何有意義的人工智慧立法。」
儘管如此，人工智慧專家仍稱讚該行政令是向前邁出的重要一步，特別是由於它對水印和美國國家標準與技術研究所（NIST，National Institute of Standards and Technology）制定的標準的關注。然而，其他人則認為，它還不足以保護人們免受人工智慧造成的直接傷害。
以下是人們需要了解的，關於該行政令及其可能產生的影響的三件最重要的事情。
關於標記人工智慧生成的內容有哪些新規則？
白宮的行政令要求美國商務部制定對人工智慧生成的內容進行標記的指南。人工智慧公司將使用該指南來開發白宮希望聯邦機構採用的標記和水印工具。白宮的一份解釋性文件稱：「聯邦機構將使用這些工具，讓美國人知道他們從政府收到的通信是真實的，並為世界各地的私營部門和政府樹立榜樣。」
標記文本、音頻和視覺內容的來源，將使我們更容易了解網絡上的哪些內容是使用人工智慧創建的。這類工具被廣泛認為是解決深度偽造和虛假信息等人工智慧問題的解決方案。在 8 月份白宮宣布的自願承諾中，谷歌和 OpenAI 等領先的人工智慧公司承諾開發此類技術。
一個問題在於水印等技術仍在開發中。目前還沒有完全可靠的方法來標記文本或調查一段內容是否是機器生成的。人工智慧檢測工具仍然很容易被欺騙。
該行政令也沒有要求行業參與者或政府機構使用這些技術。
在上周日與記者的電話會議上，白宮發言人回答了《麻省理工科技評論》關於未來是否會提出任何要求的問題，其表示：「老實說，我可以想像，在幾年後會出現這樣的要求。它會附有一個加密簽名，讓你知道你實際上是在與（真正的白宮新聞團隊）交談，而不是人工智慧版本。」 該行政令旨在「促進我們實現這一目的之前所需的技術發展。」
白宮表示，它計劃與內容來源和真實性聯盟（稱為 C2PA 倡議）一起推動這些技術的開發和使用。正如我們之前報道的那樣，隨著公司爭相為人工智慧生成的內容貼上標籤，該計劃及其附屬開源社區近幾個月來一直在快速增長。該組織包括 Adobe、英特爾和微軟等一些大公司，並設計了一種新的網際網路協議，該協議使用加密技術對有關內容來源的信息進行編碼。
該聯盟與白宮沒有正式關係，目前還不清楚這種合作會是什麼樣子。 美國政府事務團隊聯合主席穆尼爾·易卜拉欣（Mounir Ibrahim）在回答問題時表示，「一段時間以來，C2PA 一直與美國國家安全委員會和白宮的各個辦公室保持定期聯繫。」
華盛頓大學語言學教授艾米麗·本德（Emily Bender）表示，重視水印開發是件好事。她說她還希望能夠為文本開發內容標記系統，因為當前的水印技術在圖像和音頻上效果最好。「行政令當然不會成為添加水印的強制要求，但這將是使其合理化的重要一步。」 本德說。
這個行政令會有效力嗎？它可以強制執行嗎？
雖然拜登的行政令超越了美國政府此前監管人工智慧的嘗試，但它更強調建立最佳實踐和標準，而不是如何和是否執行它們。
該命令呼籲NIST 在模型推出之前為全面的「紅隊」測試製定標準，即旨在破壞模型以暴露漏洞的測試。NIST 在記錄面部識別等人工智慧系統的準確度或偏差方面已經取得了一定的成效。2019 年，NIST 對 200 多個面部識別系統的研究揭示了該技術中普遍存在的種族偏見。
然而，該行政令並沒有強制要求人工智慧公司遵守 NIST 的標準或測試方法。哥倫比亞大學法學教授布拉德福德表示：「行政令的許多方面仍然依賴於科技公司的自願合作。」
該行政令還要求，如果新人工智慧模型的計算量超過一定閾值，開發該模型的公司要在訓練系統時通知聯邦政府，並根據《國防生產法》共享安全測試結果。傳統上，該法律用於在戰爭時期或新冠疫情大流行等緊急情況下干預商業生產，因此這是一種不尋常的推動監管的方式。
白宮發言人表示，這項命令將是強制執行的，並將適用於美國未來所有的商業人工智慧模型，但可能不適用於已經推出的人工智慧模型。根據白宮的情況說明書，該門檻的設定是，所有可能對「國家安全、國家經濟安全或國家公共健康和安全」構成風險的主要人工智慧模型，都可能受到該命令的管轄。
該行政令還呼籲聯邦機構為不同的應用制定規則和指南，例如支持工人權利、保護消費者、確保公平競爭和管理政府服務。這些更具體的準則優先考慮隱私和偏見保護。
人工智慧初創公司 Hugging Face 的研究員兼首席道德科學家瑪格麗特·米切爾 (Margaret Mitchell) 表示：「至少，其他聯邦機構得到了授權，他們或許能夠認真解決這些問題。儘管對於一些受人工智慧負面影響最嚴重的人來說，為了讓他們的權利真正得到認真對待，他們需要進行一場更加艱難而疲憊的鬥爭。」
到目前為止，對該行政令的反應如何？
各大科技公司基本上對這項行政令的出台表示歡迎。
微軟副董事長兼總裁布拉德·史密斯（Brad SmithBr）稱讚這是「人工智慧技術治理方面又向前邁出的關鍵一步」。谷歌全球事務總裁肯特·沃克（Kent Walker）表示，該公司期待「與政府機構進行建設性合作，以最大限度地發揮人工智慧的潛力，包括讓政府服務變得更好、更快、更安全。」
Adobe 總法律顧問兼首席信託官 Dana Rao 表示：「很高興看到白宮通過創建負責任的人工智慧實踐框架來投資人工智慧的發展。」
白宮的做法總體上仍然對矽谷友好，強調創新和競爭，而不是限制和制約。該戰略符合參議院多數黨領袖查克·舒默（Chuck Schumer）提出的人工智慧監管政策的重點，並進一步體現了美國對人工智慧監管的寬鬆態度。
然而，一些人工智慧研究人員表示，這種方法令人擔憂。米切爾說：「我最擔心的是，它忽略了如何訓練和開發模型以儘量減少可預見的危害。」
她補充說，白宮沒有「在部署之前預防人工智慧的危害」。比如，它沒有改進科技公司的數據實踐，而是使用「打地鼠」的方法來解決已經出現的問題。
這項備受期待的人工智慧行政令是在英國召開人工智慧安全峰會（AI Safety Summit）前兩天發布的，旨在將美國定位為人工智慧政策的全球領導者。
布拉德福德補充道，這可能會對美國以外的地區產生影響。它將為英國的安全峰會定下基調，並可能鼓勵歐盟最終敲定其人工智慧法案，因為該行政令發出了一個明確的信息，即美國同意歐盟的許多政策目標。
布拉德福德表示：「這份行政令可能是美國政府目前能拿出來的最好的監管手段。」
支持：Ren