新聞背景：
國慶上網被「雷軍」罵了整整7天？有媒體報道，剛剛過去的國慶假期里，短視頻平台出現了大量「雷軍」的發言視頻，涉及堵車、調休、遊戲等熱門話題，時而言辭犀利，時而爆出粗口。據悉，這些發言與知名企業家雷軍並無關係，而是由AI合成。目前，相關短視頻已被各大平台下架。
AI技術怎能不斷「試探」底線？
從「AI孫燕姿」「AI周杰倫」翻唱歌曲，到「郭德綱」講英文段子、「霉霉」講流利中文，再到如今「雷軍」七天罵翻全網，AI配音在網絡世界的應用並不鮮見。原本，製作者只是在小範圍玩梗逗樂，卻逐漸變為在違法、悖德的邊緣瘋狂「試探」：有人利用AI語音招搖撞騙、有人未經允許利用AI技術「重現」已故明星聲音……凡此種種，皆提示我們在享受技術便利的同時，也要格外關注潛藏的風險。【詳細】
AI流水線式造假，不僅侵犯公民的合法權益、混淆大眾認知，更帶來巨大的風險隱患。《2024人工智慧安全報告》顯示，僅今年上半年，AI詐騙案案值已超過1.85億元。【詳細】
深度偽造已成滋生亂象溫床
從彼雷軍到此「雷軍」，使用「AI配音」就可以「一鍵直達」。近年來，通過AI實現聲音和畫面深度偽造的技術門檻不斷降低，為這種「一鍵變聲」「一鍵變臉」泛濫提供了可能。目前，市面上已有大量的AI配音小程序，用戶只需在程序內選擇相應的人物聲音並輸入文字，便可借用他人的聲音發表言論。有的軟體免費向用戶開放部分使用權限，收費版本價格也並不高。
在深度偽造技術之下，我們越來越無法區別真假，過去崇尚的「眼見為實」受到衝擊，只能信以為真。而真偽難辨的混沌地帶，也很可能成為滋生各種亂象的溫床。更甚之，不法人員憑藉一段原始語音、照片等就能編造謠言甚至設置陷阱，並藉此實施詐騙。【詳細】
該給AI生成套上韁繩了
當深度偽造嵌入我們的數字生活，該怎麼辦？這並非無病呻吟強說愁。一方面，要推動反深偽檢測技術持續更新疊代，以應對層出不窮的深度偽造騙局；另一方面，要加強技術監管，明確生成式人工智慧服務合法與非法的邊界，對相關違法行為進行嚴肅懲處，以「前車之鑑」構築其參照坐標。【詳細】
就防止AI合成內容侵權的問題而言，我們能做的還有很多。比如，作為傳播鏈條中的重要一環，社交平台需負起相應的治理責任，並注意識別AI生成音視頻的真偽，對侵權素材作出及時處理，必要時標註「疑似AI合成」之類的提醒。再比如，網絡惡搞不能沒有邊界，廣大網友也要注重尊重他人的合法權益，絕不能突破法律和道德的底線。【詳細】
（以上綜合光明網、北京日報、南方日報）
V視角：
@小小鹿同學：玩梗要適度，這樣惡搞知名企業家不太好吧？
@笑逐顏開：這種AI換聲已經涉嫌侵權了。
@心隨風動：雷軍都被侵權，那我們普通人要遭到侵權就更難辦了。
@是不是笑一笑就好了：為了流量啥都干，真是沒有底線了。
@我是布布：支持雷總維權。
中國經濟網編後語：
如今，AI換臉或配音、文生文、文生圖、文生視頻等應用的發展如火如荼，但越來越多的質疑聲也隨著侵權、泄露個人信息、詐騙等問題到來。雷軍遭遇AI侵權，或許這次只是惡搞，倘若網際網路應用的場景中謠言和詐騙橫行，我們又該如何應對？規範生成式人工智慧技術的發展，不該止於「平台下架相關內容」，而應當最大力度強化監管和處罰，同時，還應釐清AI生成的邊界，更好引導「科技向善」。
回顧：往期「經」點熱評