潮評丨「雷軍AI配音」被玩壞，這事別只當個樂子看

潮新聞客戶端 評論員 王彬

針對網友「為何罵人」的詢問，雷軍回復了三個憤怒表情。圖片來源：中國青年報微信公號

近日，短視頻平台上出現了大量「雷軍AI配音」的惡搞視頻。在視頻中，「雷軍」銳評了堵車等熱門話題，其中還有一些不雅謾罵。除了吐槽外，視頻里的「雷軍」還稱要投資某某大學。這些視頻中的聲音、語氣都很像雷軍，甚至還有雷軍的「出鏡」。據悉，這些發言和雷軍本人並無關係，而是AI配音所成。目前，相關短視頻已被平台逐步下架。

估計連雷軍自己都沒想到，他會因為虛假的AI配音再「火」一把，但如此「火法」，肯定不是他本人想看到的。「雷總，最近你怎麼在罵人」「每次都是開屏暴擊」，這些詢問和討論也在雷軍的社交帳號留言區下刷屏，對此，雷軍回復了三個憤怒表情。不只是雷軍，但凡是正常人，都不願意和這樣的虛假AI配音沾邊。

不少網友都把此事當成一種「玩梗」與「惡搞」，所產生的反應也都是對雷軍開玩笑式的「調侃」。這說明網友還是有一定辨別能力的，沒被「段子」給唬住，沒把「假的」當「真的」。但還是要提醒下廣大網友：這事別只當個樂子看。

這些惡搞視頻，在未經本人同意的前提下，用了雷軍的視頻與聲音進行編輯合成，而且合成的內容，還不乏具有辱罵和誹謗性質的。這樣的內容，即使再可樂再好玩，也改變不了其侵犯當事人肖像權、名譽權等正當權益的本質問題，是赤裸裸的違法行徑。

尤其是這些視頻還如此容易出現在網際網路上，出現在我們面前，且得到極大的傳播，就更應該有所警惕了。當虛假的AI配音不可控，今天是雷軍，明天就可能是我們，理論上每個人的正當權益，都有被侵害的風險。今天我們調侃雷軍，可當我們自己身陷其中，恐怕就笑不出來了。

近幾年，生成式AI發展之快，遠超我們的想像。AI圖片、視頻與音頻從「一眼假」、「一聽假」，逐漸到了「真假難辨」「以假亂真」的程度，具備一定的蒙蔽性、欺騙性和誤導性，一旦被別有用心的人利用，用於造謠、誹謗與詐騙，以及其他不法行徑，就會給民眾和社會帶來嚴重困擾。

這並不是誇張之語，通過AI「換臉」「擬聲」，進而詐騙成功的案例不在少數。還有人利用AI技術惡意拼接他人照片，使用AI軟體配侮辱詆毀性言論、音樂，並通過短視頻平台散布傳播。就拿雷軍這些惡搞視頻來說，萬一真的有人信了，並產生了實質性的惡果，後果誰來承擔呢？

一個更典型的案例是，前一段時間，在一起輿論事件中，一段虛假的「AI錄音」，就把水給攪渾了，且製造了不小的混亂，也伴隨著新一輪的質疑、謾罵與網暴，而大眾根本沒有辨別真假的能力，最後還是警方介入偵查，經過專業機構鑑定，才還原了真相，還了相關人員清白。而在這個過程中，受害者們，不僅是無辜躺槍，被潑髒水，還會陷入「自證清白」以及「有口說不清」的尷尬境地。即使事情最後順利得到糾偏，但所帶來的傷害，產生的惡劣影響，並不是那麼容易消彌的。

AI生成的假視頻、假錄音，可能只需要一個軟體，甚至是幾秒鐘時間，造假成本可謂極低，同時，違法越軌成本也並不高。那在獵奇、流量和利益的驅動下，生成式AI被濫用，便是一個能看到的必然結果。若要扭轉這一情況，必須要把生成式AI關進法律的「籠子」里，使其可管控、守規矩，存在於道德倫理可接受的範圍內。

前不久，國家網際網路信息辦公室起草了《人工智慧生成合成內容標識辦法（徵求意見稿）》，明確指出，人工智慧生成合成內容標識包括顯式標識和隱式標識，且不得惡意刪除、篡改、隱匿標識。未對生成合成內容進行標識造成嚴重後果的，由網信等有關主管部門按照有關法律、行政法規、部門規章的規定予以處罰。而對於規範生成式AI內容，提高AI假視頻假錄音的違法越軌成本而言，這只是一個開始。

「轉載請註明出處」