近日，一些短視頻平台湧現了大量某知名企業家吐槽的視頻。在視頻中，該企業家對堵車、調休、遊戲等熱門話題進行了調侃和銳評，甚至還有不雅詞彙穿插其間，引髮網友熱議。事實上，那些視頻並非該企業家本人在發聲，而是由網友利用AI軟體採集該企業家原音生成的配音，但逼真的效果讓不少人信以為真。（10月28日《工人日報》）
隨著AI技術的迅猛發展，它的應用範圍也越來越廣，給很多人的工作和生活提供了極大的便利。然而，AI從一開始誕生，就猶如一把雙刃劍，在它的正面作用得到積極開發和利用的同時，它的一些弊端也開始顯現。就以AI語音合成技術為例，只需要打開軟體、動動手指，一條以假亂真的配音視頻就能新鮮出爐。本來，這也屬於AI應用的一種，但是如果被不當使用，乃至亂用、濫用，就會引發出很多道德與法律問題。
就以上述某知名企業家被網友利用AI軟體採集原音生成配音為例，「他」對很多社會熱門現象、話題的吐槽，完全是網友藉助他的聲音在說話，但是不明真相的聽眾，卻以為是企業家本人在發表言論和觀點。那麼其中一些錯誤的言論和觀點，就勢必對企業家的個人形象和聲譽帶來嚴重損害。
從法律角度來說，自然人的聲音具有唯一性、獨特性，是自然人人格的重要組成部分，聲音權益是人格權的一種。製作並上傳他人AI音頻的行為，無論是出於商業目的還是娛樂目的，都已構成對其人格權的侵犯。如果配音內容違法或違反公序良俗，可能侵犯他人的名譽權。
實際上，已經有人為此吃了官司。今年4月，北京網際網路法院一審開庭宣判了全國首例AI生成聲音人格權侵權案。該案中，配音師因認為自身作品被短視頻平台利用AI生成語音產品，嚴重侵犯了自己的聲音權益，將短視頻平台及製作方等5家公司訴至法院，最終原告獲賠經濟損失25萬元。
AI技術在發展過程中，一定要做到趨利避害，否則就可能侵害他人權益，涉嫌違法犯罪，反過來成為AI技術正常發展的一種羈絆和阻礙。AI語音應用工具提供方不能「置身事外」，而是要把好第一道關，強化對源頭素材的把控和對生成內容的監管，完善運營規則，並在出現問題時積極配合有關部門，追溯違法音頻的生成源頭，依法處置。
今年9月，國家網信辦發布的《人工智慧生成合成內容標識辦法（徵求意見稿）》提出，提供網絡信息內容傳播平台服務的服務提供者應當採取措施，規範生成合成內容傳播活動。包括提供必要的標識功能，並提醒用戶主動聲明發布內容中是否包含生成合成內容等。
所以更加關鍵的問題，在於網絡信息的傳播平台，對AI生成內容建立甄別和追蹤的機制。如果發現涉嫌偽造的內容或者接到相關投訴，應當要求內容發布者及時對偽造內容進行標識，涉嫌侵權的，及時刪除，造成嚴重後果的可以進行禁言、封號等處理。
文/苑廣闊
圖源/視覺中國
責任編輯：向勤如(EN006)
文章來源: https://twgreatdaily.com/zh-cn/143307a17d9245163a4b6c87d2e20458.html