「國慶上網被雷軍罵了整整7天」？據報道，這個國慶假期，短視頻平台上出現了大量「雷軍」的發言視頻，涉及堵車、調休、遊戲等熱門話題，不僅言辭犀利，還常爆粗口。但事實上，這些發言和雷軍本人並無干係，而是AI配音所成。目前，相關短視頻已被平台逐步下架。
虛假信息古已有之。如今，人人都有「麥克風」、人人皆是信息源，信息與新聞的界限日漸模糊，亦真亦假的消息、洶湧澎湃的情緒，讓輿論場跌宕起伏，過山車般的反轉更是天天可見。
如果說，之前的人工造假只是1.0版本，那麼AI的發達則開啟了深度偽造與低價量產的2.0時代。換臉、換聲、換動作，移花接木；文生文、文生圖、文生視頻，無中生有……當幾千元即可定製整套虛擬形象，當尋常軟體分分鐘生成一批內容詳細、真假難辨的文章，當幾張圖片、幾個關鍵詞就能輕鬆炮製「新聞」，我們該如何應對？
假信息激增是全球問題，國外政要官員、商企精英、歌手明星等，無不遭遇「碰瓷」。流水線式造假，不僅侵犯隱私權益、混淆公眾認知，更帶來巨大的風險隱患。《2024人工智慧安全報告》顯示，2023年基於AI的深度偽造欺詐增長了3000%，僅今年上半年，AI詐騙案案值已超過1.85億元。
深度偽造猖獗，如何識別與治理？有學者主張從假信息生命周期和傳播鏈條的三個環節著力，即製造、傳播、接受。著眼生產端，我國相繼出台了《網際網路信息服務深度合成管理規定》等法律法規，逐步釐清了各方權責，期待更為有力的治理舉措。再看平台端，儘管已採取措施加強識別，但仍需要加強技術升級，用技術對抗技術、用魔法打敗魔法。
信息最終都要作用於人，傳播媒介的代際更迭，總會對受眾產生深遠影響。技術進步帶來了「信息的洪流」與「選擇的苦惱」，這也要求人們具備基本媒介素養，對於所謂的「網絡熱點」及吸睛信息，不可「聽風就是雨」，盲目相信、輕易轉發。更進一步，也有必要有意識地優化媒介使用策略，平衡信源、打破「繭房」，改善「信息偏食」、拒絕「偏聽偏信」。AI本身就是「人為」創造的，也應該「為人」所用、「為人」服務，我們理當對攜手行動、以善治實現善「智」抱有足夠信心。
來源：北京日報客戶端