福州某科技公司法定代表人9分鐘被AI換臉騙430萬元的風波剛過，又有安徽何先生9秒被換臉騙走245萬元。
另一邊，直播間中，換上楊冪、迪麗熱巴等明星臉的主播出現在直播間帶貨，讓觀眾真假難辨。
疑似換臉楊冪的帶貨主播 圖片來源：視頻截圖
社交網站的演示視頻中，手一揮一秒換臉的視頻比比皆是，每個人都能用AI製作一段視頻，騙子也不例外。
AI音樂、AI繪畫、AI換臉、AI換聲……不知不覺中，我們每個人都已經走進了賽博世界，不管是抖音中的#一鍵解鎖瞬息全宇宙##一鍵變妝#等特效的應用還是AI孫燕姿的「消費」，都是AI日常化的見證。
在所有人都在享受技術狂歡的時候，技術的另一面也逐漸顯露：偽造技術和鑑別技術好似在玩一場「貓鼠遊戲」，最終誰能把握主動權？
可以批量生產的AI換臉，技術門檻有多低？
AI換臉技術並非新事物，早在2019年，一個換臉軟體「ZAO」的出現，就曾讓AI換臉風靡網絡，網絡視頻平台上出現大量的AI換臉惡搞視頻，許多明星因此被惡搞、造謠。
儘管，當時「ZAO」上線不久便因侵犯隱私等問題被下架，但這個由技術帶來的負面影響卻一直存在，直到今年AI技術的普及使得換臉再次爆發。
瑞萊智慧RealAI聯合創始人、算法科學家蕭子豪表示，AI換臉、AI換聲主要使用的是深度合成技術，隨著深度合成技術的開源開放、深度合成產品和服務的增多，深度合成內容製作的技術門檻越來越低，實現了技術的「平民化」，普通人也能用少量圖像、音頻等樣本數據，利用簡便易用的合成工具，製作深度合成內容。
蕭子豪介紹，目前視頻聊天或直播的AI換臉有兩種方式：一種是事先做好的換臉視頻直接播放，一種是接入實時換臉的視頻。第一種方式，目前的製作成本已經非常低，有公開成熟的應用可以支持該項工作；第二種雖然沒有發現有公開的應用，但也有非常成熟的技術手段可以支撐。做成一段視頻的時間和設備、算力等因素相關，當前技術可以做到和生成視頻相等的時間即產出結果。製作這樣的視頻需要被替換前的原始視頻圖像和被替換後的人臉圖像，基於目前的技術能力，替換前的原始視頻圖像在面部清晰、正臉無遮擋、無誇張動作等條件下，會展示出比較好的效果。
AI從業人員湯輝也表示，現在的AI換臉對技術的要求非常低，「如果是專門的技術人員，在網上找一個開源的模型，然後先自己搞懂。如果只是採集一段這個人的圖像生成視頻，很快就能訓練出來。20分鐘就可以做一個。」
在手機應用商店搜索「AI換臉」可以發現，有不少相關軟體，其中faceplay在ios系統的下載量已達24萬，該軟體有影視角色、寫真、漫畫等模板。軟體採取收費獲取模版的形式盈利，周會員17元，年會員398元。也有的軟體只需看廣告就可以製作。
換臉軟體faceplay下載和收費介面 圖片來源：截圖
電商平台上雖已屏蔽「換臉」等關鍵詞，但通過搜索其他相關詞條仍能找到相關內容，售價多在幾十元。
某電商平台售賣AI換臉產品的詳情介紹 圖片來源：網頁截圖
抖音等短視頻也推出簡易AI換臉模板，比如換臉跳舞、變臉換裝、男女換臉等。記者嘗試導入照片後幾秒鐘便可生成一個視頻，但這類視頻精度相對較低，偶爾轉頭還可以看到一些不貼合等漏洞。
「目前AI已經可以批量製作大量的視頻，製作多段替換成同一人物的視頻，也可製作同時替換為多位人物的視頻。」蕭子豪說。
為AI打標記，一場「貓鼠遊戲」
「技術只會發展得越來越快，也許你現在能看出來是AI，還是真人，但是半年後，一年後呢？」湯輝認為AI技術發展太快，但是現實生活中了解AI的人又太少，進而導致詐騙頻繁發生。
蕭子豪也表示，目前深度合成技術在不斷進化，生成的聲音和視頻越來越逼真，普通人肉眼鑑別的難度也越來越高。
據媒體報道，微軟首席技術官（CTO）凱文·斯科特在當地時間5月23日開幕的Build開發者大會前夕接受採訪時曾表示，微軟3年來一直在研究「媒體來源系統」——在AI生成的內容里放置加密水印，可以使用軟體解密水印以獲取來源信息，以檢測虛假信息。
從技術上來看，蕭子豪介紹，他們一直在研究深度合成技術的自動化檢測，常用的方法包括基於偽造內容數據集完成對模型檢測器的訓練、基於幀間不一致性實現對偽造內容的判別等，這些方法在開源數據集中均能達到99.9%的準確率。
「防範的難度在於新型偽造方法層出不窮、網絡傳播環境日趨複雜，加上基於深度神經網絡的檢測算法存在結構性缺陷等，反深偽檢測技術也面臨『強對抗性』，需要持續更新與疊代優化。」
《網際網路信息服務深度合成管理規定》明確要求深度合成服務提供者對使用其服務生成或者編輯的信息內容，應當採取技術措施添加不影響用戶使用的標識，對於具有生成或者顯著改變信息內容功能服務的，應當在生成或者編輯的信息內容的合理位置、區域進行顯著標識，向公眾提示信息內容的合成情況，避免公眾混淆或者誤認。
b站AI技術合成標識 圖片來源：截圖
AI換臉有風險
根據著作權法的有關規定，如果AI換臉使用的是表演者的視頻素材，還可能侵犯其著作權。如果是非法使用，例如本案中的行為人冒用郭先生好友的微信，利用AI換臉詐騙，則不僅構成侵權，還涉嫌犯罪。
如果在直播中使用AI換臉服務，直播商家、平台方和技術提供方都將承擔一定的責任。尤其根據《網際網路信息服務深度合成管理規定》，如果深度合成服務提供者和技術支持者違反規定的，相關部門會給予處罰；構成犯罪的，還要承擔相應的刑事責任。
此外，北京市京師律師事務所王榮梅律師團隊提醒，關於AI生產的內容版權歸屬問題，目前也還存在爭議。
首先，AI生成的內容是否構成作品就存在爭議；其次，在實務中，AI生成物的性質認定也存在爭議。所以目前法律沒有就AI生成內容的版權作出明確規定，但是在《生成式人工智慧服務管理辦法（徵求意見稿）》第五條中，規定了此類內容侵權的主體責任。即利用生成式人工智慧產品提供聊天和文本、圖像、聲音生成等服務的組織和個人，包括通過提供可編程接口等方式支持他人自行生成文本、圖像、聲音等，承擔該產品生成內容生產者的責任。
「目前，AI還是一個新興的領域，發展日新月異，在為人們的工作和生活帶來便捷的同時，也有不法分子利用此技術從事違法犯罪活動，目前，AI領域的規定散見於民法典、個人信息保護法、網絡安全法，尚未形成系統的法律體系。相信隨著此技術的廣泛應用，法律法規也會不斷與時俱進，國家會出台更多的規範措施，逐漸形成完備的法律體系。」王榮梅律師團隊說。
記者|宋美璐 編輯|張海妮