這兩天，許多人一打開朋友圈，就發現自己的親朋好友紛紛化身「影帝」「影后」，成為各色經典電影情節中的主角。這種新奇有趣的視頻，由一款名為ZAO的APP製作，其核心技術是通過人工智慧，將用戶的面部數據與明星進行替換。
上傳一張照片就可以實現「AI換臉」，便捷的操作、有趣的玩法，很快就形成了病毒式傳播態勢。但ZAO熱鬧的背後，其實有著不少「細思極恐」的漏洞，涉及的法律、倫理、隱私等等問題均無法因一件「娛樂化」外衣消解。
比如，有細心網友發現，ZAO的用戶協議暗藏玄機。第6條寫道：用戶上傳發布內容後，意味著同意授予ZAO及其關聯公司以及ZAO用戶在「全球範圍內完全免費、不可撤銷、永久、可轉授權和可再許可的權利」。翻譯一下，就是用戶一旦使用這款APP，就意味著把自己的肖像權完全讓渡給了該公司，它可以利用用戶肖像去做其他事情。雖然這並不意味著ZAO背後的公司圖謀不軌，但用戶肖像權就這樣無聲無息地被人掌握，頗有一種「人為刀俎我為魚肉」的觀感。
更要看到，在面部識別已經普及的今天，你我的面部數據如同一把鑰匙，與自己種種帳戶的安危高度相關。ZAO一鍵把用戶的面部數據上傳到雲端，但凡公司里有內鬼，或是公司保管不善造成數據泄露，別有用心之人很容易拿著我們的「臉」招搖撞騙。
ZAO身上的種種隱患，其實只是整個「AI換臉」技術爭議的冰山一角。面部識別可以說是當前AI技術商業化最成熟的方向之一。曾幾何時，人們寄望於此為社會增添便利。但2017年12月，美國某論壇上的一位用戶打破了這種想像。他發布的「deepfake」程序，藉助深度學習算法，將色情內容中的演員替換成好萊塢影星。之後「AI換臉」又幫助很多人偽造了歐巴馬、扎克伯格的視頻，藉助名人效應吸引「吃瓜群眾」接受虛假視頻里的觀點。在國內也曾有程式設計師將楊冪等明星的臉嫁接到別的視頻上。如今ZAO的出現無疑進一步拉低了門檻。
當前，一個技術小白只需要稍加學習，就可以製作假照片、假視頻、假聲音。人們愈發難以分辨網線另一端的那個人究竟是真還是假。從「深度學習」到「深度偽造」，人工智慧開始「作惡」的速度如此之快，但我們卻遠遠沒有想好該如何應對這些新問題。就拿那些知名女星來說，自己的肖像權被肆意侵害並產生巨大的不良影響，想要維權卻困難重重，只能默默忍受那些視頻的傳播。
可以預見，在資本的加持下，未來會有更多類似「AI換臉」的技術出現，對現有的社會秩序發起挑戰。直接「一刀切」全部封殺並不現實，如何趨利避害需要學界、業界與管理者儘快研究，切莫等到不可收拾。
*本文由樹木計劃支持，長安觀察出品，首發在今日頭條平台。