活躍在巴黎時尚秀場上的明星居然也開始帶貨了……
楊冪、劉亦菲竟然賣起了減肥茶……
媒體報道，3月末日晚上9點，點進電商直播間，「楊冪」和「劉亦菲」竟然賣起了減肥茶，不久後「迪麗熱巴」也加入到直播帶貨中。
在短短4個小時的時間裡，依靠著「明星同款」「頂流力薦」的標籤，直播間內的商品銷量已達上千件。
消費者在直播間裡看得一頭霧水，但卻因「眼見為實」屢屢瘋狂下單，被騙了還渾然不知。
但只要直播時間一長，仔細觀察就不難發現，該直播間內的「女明星」如果動作稍大，就會暴露「面具」之下的本來樣貌，或者出現「面具」出畫的現象。
很顯然，這是AI換臉出來的「假人」。
事實上，活躍在直播短視頻上的許多「歪果仁」，也可能是「假人」。
來自瑞典的網紅拉納布萊克利的臉，也被移花接木到了中國人臉上。
在視頻里，「她」大談中國人的勤勞善良，並且嫁給中國老公，餘生在中國定居。
中國新聞網則報道稱，不久前，烏克蘭網紅Olga Loiek發視頻控訴她的面孔被非法盜用，例如在國內社交平台上活躍的卡塔琳娜。
在社交平台上，卡塔琳娜是一位在中國生活了5年的俄羅斯女孩，今年1月開始發布視頻，多數附帶著商品連結。
她擁有超過10萬粉絲，看起來只是眾多帶貨網紅中的一個。
但如果留意就會發現，和她「共用一張臉」的帳號有許多，有的叫娜塔莎，有的又叫琳娜、波娃.....
AI換臉，也開始變成了一個產業，除了「假人」直播，還有培訓教程。
有從業者打出「包教包會」的旗號當起了職業培訓師。
「培訓費用」從29.9元到上萬元，涵蓋工具、承諾包教包會，消費者繳費後才知道所謂的包教包會，是「只售出無售後」。
從「AI換臉」到「Sora」,當消費者們還沉浸在科技對世界的重塑力上時，有這樣一些商家早已經構建起了一條低成本牟暴利的灰色產業鏈。
此外，此前AI復活親人異變到復活明星，引發巨大社會爭議，也讓這一問題被大眾所關注。
AI「假人」現象集中爆發，到底是怎麼回事？
其中存在的隱患問題？
對此，中國新聞網記者邵萌和書樂進行了一番交流，本猴以為：
技術無罪，但運用者動了歪腦筋。
目前的數字人技術，確實可以提供高度神似真人形象的虛擬複製，但本質上也僅僅只是形象和語音語氣上的復刻。
AI「假人」作為一個新的細分產業，有其存在的合理性，例如AI復活親人。
但無論是復活親人還是明星，又或者克隆健在之人，都有一個大前提，即如果是復活親人，必須直系親屬確有需求，並主動要求。
而復活明星或克隆活人，則要取得相關版權方、當事人的許可。
以後隨著大模型的成熟，確實可以給逝者，包括我們自己定製一個高仿的虛擬數字人。
同時，這一領域，如果只是看定製生意，市場規模不會大。
但如果延伸來看，在取得相應授權之後，來打造一個數字永生的IP，這可能帶來各種可能。
如真人底色的虛擬歌手演唱新的歌曲、參與商演、代言或影視劇中，類似於現有的數字虛擬人如初音未來、洛天依那樣，則可以形成巨大的商業價值，這樣的方式，才是科技向善。
目前而言，此類AI「假人」生意有極大的隱患。
主要是內容生產方往往缺乏對需求方的資格審核，而讓所謂數字人定製可能完全沒有授權而侵權。
甚至可能導致「作品」被濫用，例如類似充氣娃娃式的虛擬形象、電信詐騙，以及用AI生產真人形象進行各種違法行為等。
不過，目前來說，AI數字人的技術門檻還是比較高，當下流入市場的技術其實是AI換臉和變音，即真人表演、換臉造假。
此外，AI「假人」的識別難度不是太大，如面臨可能的詐騙風險時，要求對方按下鼻子，能很快洞察。
作者 張書樂，人民網、人民郵電報專欄作者，中經傳媒智庫專家，資深產業評論人