歐盟的《人工智慧法案》終於出爐了，距離該法案的首次提出已經過去了兩年半之久。
最近，經過數月的遊說和政治角力，再加上耗時近 40 個小時的艱苦最終談判，歐盟立法者就《人工智慧法案》達成協議。這將成為世界上第一部全面的人工智慧法律。
《人工智慧法案》被認為是一項具有里程碑意義的法案，旨在減輕人工智慧在對基本權利構成最大風險的領域所造成的傷害，例如醫療保健、教育、邊境監控和公共服務，並禁用那些會帶來「不可接受的風險」的人工智慧。
「高風險」人工智慧系統必須遵守嚴格的規則，例如需要建立風險緩解系統、高質量的數據集、更好的文檔和人工監督。不過，絕大多數人工智慧應用，如推薦系統和垃圾郵件過濾器，都將不受限制。
《人工智慧法案》是一件大事，它將為目前「野蠻生長」的一個極具影響力的行業引入重要的規則和執行機制。
（來源：STEPHANIE ARNETT/ MITTR | ENVATO）
以下是《麻省理工技術評論》總結的要點：
《人工智慧法案》引入了關於透明度和道德的重要、有約束力的規則
科技公司喜歡談論他們對人工智慧倫理的承諾，但當涉及到具體措施時，談話往往終結於此。
無論如何，行動勝於雄辯。在裁員期間，管理負責任人工智慧的團隊往往是第一批被裁的人。事實上，科技公司可以隨時決定改變其人工智慧道德政策。
例如，OpenAI 起初是一個「開放」的人工智慧研究實驗室，但後來關閉了公眾對其研究結果的完全訪問，以保護其競爭優勢，就像其他所有人工智慧初創公司一樣。
《人工智慧法案》將改變這一現狀。該法規制定了具有法律約束力的規則，如果用戶在與聊天機器人、生物識別分類或情緒識別系統互動，那麼這些系統背後的科技公司必須告知用戶。
該法案還要求科技公司標記深度偽造（deepfakes）和人工智慧生成的內容，並以可以檢測人工智慧生成內容的方式設計系統。
這個程度已經超過了一些人工智慧公司向美國白宮做出的自願承諾，即簡單地開發人工智慧來源驗證工具，如水印技術。
該法案還將要求所有提供保險和銀行等基本服務的組織，對使用人工智慧系統將如何影響人們的基本權利進行影響力評估。
人工智慧公司仍有很大的迴旋空間
2021 年，當《人工智慧法案》的初稿首次出台時，人們的熱情仍集中在元宇宙上（現在已經難想像了）。
現在，在後 ChatGPT 時代，立法者們覺得他們必須在監管中考慮所謂的基礎模型，即可以用於許多不同目的的強大的人工智慧模型。這引發了關於什麼樣的模型應該受到監管，以及監管是否會扼殺創新的激烈辯論。
《人工智慧法案》將要求基礎模型和在此基礎上構建的人工智慧系統構建更好的文檔，遵守歐盟版權法，並分享更多關於模型訓練數據的信息。
對於最強大的模型，還有額外的要求。例如，科技公司將不得不分享其人工智慧模型的安全性和能效。
但問題是立法者發現了一個折衷方案，只對最強大的人工智慧模型應用一套更嚴格的規則，按訓練它們所需的計算能力進行分類。公司將自主評估自己是否受到更嚴格規定的約束。
一位歐盟委員會官員不願證實目前的嚴格規定是否會囊括 OpenAI 的 GPT-4 或谷歌的 Gemini 等強大的模型，因為只有這些公司自己知道訓練他們的模型花費了多少算力。
不過這位官員也表示，隨著技術的發展，歐盟可能會改變衡量人工智慧模型強大程度的方式。
歐盟將成為世界上「首屈一指」的人工智慧監管方
《人工智慧法案》將設立一個新的歐洲人工智慧辦公室，負責協調合規、實施和執法。它將是全球第一個對人工智慧實施約束性規則的機構，歐盟希望這將有助於它成為世界上最受矚目的技術監管機構。
《人工智慧法案》的治理機制還包括一個由獨立專家組成的科學小組，就人工智慧帶來的系統性風險以及如何對模型進行分類和測試提供指導。
對違規行為的罰款也很高：根據違法行為的嚴重程度和公司的規模，從公司全球銷售額的 1.5% 到 7% 不等。
歐洲也將成為世界上首批地方，允許其公民對人工智慧系統提出投訴，並獲得關於人工智慧系統如何得出影響他們的決定的解釋。
通過成為第一個正式制定人工智慧規則的地區，歐盟擁有先發優勢。就像《通用數據保護條例》一樣，《人工智慧法案》可能會成為一項全球標準。
其他地方的公司如果想在這個世界第二大經濟體開展業務，就必須遵守法律。歐盟的規則也比美國的規則（如白宮行政命令）更進一步，因為它們具有約束力。
國家安全優先
現在，歐盟完全禁止了一些人工智慧技術的使用，比如使用敏感特徵的生物識別分類系統；無針對性地從網際網路或錄像中抓取面部圖像，以創建 Clearview AI 等面部識別資料庫；工作或學校場景中的情緒識別；社會評分；操縱人類行為的人工智慧系統；以及用來針對人們弱點的人工智慧。
歐盟委員會的一位官員表示，預測性警務應用也被禁止了，除非它與「明確的人類評估和客觀事實相結合」，也就是「不會因為算法這麼說就簡單地決定在刑事調查中追捕某個人」。
然而，《人工智慧法案》不適用於專門為軍事和國防用途開發的人工智慧系統。
圍繞《人工智慧法案》最激烈的鬥爭之一，一直是如何監管警察在公共場所使用生物識別系統，許多人擔心這可能會導致大規模監控。
儘管歐洲議會希望近乎全面地禁止這項技術，但法國等一些歐盟國家對此表示強烈抵制。他們想用它來打擊犯罪和恐怖主義。
只有在獲得法院批准的情況下，歐洲警察才能在公共場所使用生物識別系統，而且只能用於 16 種不同的特定犯罪，如恐怖主義、人口販運、對兒童的性剝削和毒品販運等等。
執法部門也可能在「與公共安全有關的特殊情況」下，使用未通過歐洲標準的高風險人工智慧系統。
下一步是什麼？
我們可能需要數周甚至數月的時間才能看到法案的最終版本。具體內容仍需經過技術上的修改，而且它在正式成為法律之前，還必須得到歐洲國家和歐盟議會的批准。
一旦該法案生效，科技公司有兩年的時間來落實這些規定，對特定人工智慧應用的禁令將在六個月後生效，開發基礎模型的公司必須在一年內確保模型合法。
作者簡介：梅麗莎·海基萊（Melissa Heikkilä）是《麻省理工科技評論》的資深記者，她著重報道人工智慧及其如何改變我們的社會。此前，她曾在 POLITICO 撰寫有關人工智慧政策和政治的文章。她還曾在《經濟學人》工作，並曾擔任新聞主播。
支持：Ren