完蛋！我被AI美女包圍了，AI技術不該這樣用
隨著人工智慧技術的不斷突破，如今的內容製作正在變得更容易上手。無論是文字內容輸出，還是視頻剪輯製作，都有著相應的AI工具來幫助實現。
但與此同時，AI的急速發展也帶來了技術支持之外的「蝴蝶效應」。
如今，不少網友都喜歡在各大平台上觀看跨文化交流的內容。這些內容往往充滿了文化碰撞和生活趣事，生活化又切入點獨特，很能吸引人看下去。
然而，隨著這一視頻製作領域的火熱發展，有些人卻開始通過AI技術來「批量製作、程序化生產」外國美女博主。
AI美女湧現
這些AI生成的「外國美女」頻繁出現在社交媒體上，他們與網友互動、講述自己的生活、分享家鄉的文化、表達自己的期望。
初看之下，這些內容似乎與真人錄製的視頻無異，但實際上，它們卻是AI技術的產物。從畫面到語音，甚至口型動作，都透露出這是一項較老的AI技術所製作的，而非最新的技術。
觀察這些AI生成的美女帳號，可以發現他們往往使用相同或類似的文案，視頻畫面則是選取了其他博主的視頻片段並換臉後重複使用的。
因此會出現大量說著同一段話的不同帳號，甚至這些帳號中的外國美女有時候會有著一樣的外形輪廓和背景。
（短視頻帳號截圖）
雖然這些AI製作的視頻在技術和細節上顯得相對粗糙，例如口型與發音不同步，但依然收穫了大量熱情的評論和歡迎。觀眾們似乎並不介意這些形象並非真人，而是AI合成的產物。
然而事實卻是，對於熟悉AI技術的人來說，這些內容的人工痕跡顯而易見；但對於初次接觸或不常關注這類內容的人而言，他們可能很難區分真實與虛擬。
哪怕平台在視頻下方標註了「內容疑似AI生成，請謹慎甄別」，但還是會有部分網友由於對「AI」的概念不理解，認為其中顯示的是真實的人。
（短視頻帳號截圖）
而在這種情況下，這類虛擬內容可能會誤導那些不熟悉AI技術的觀眾，讓他們對一個完全虛構的角色投入真實的情感。
通過這類帳號的評論區，也能夠看到確實有很多網友真的認為視頻中的是真人、視頻內容則是真情實感地表達。
（短視頻帳號截圖）
流量的盡頭是帶貨
那麼，這些帳號背後的運營者這麼做的原因是什麼呢？
按照相關的調查報告來看，這些帳號的吸粉速度很快，在通過幾個視頻引流並積累到一定粉絲量後，就會進行帶貨。帶貨的產品定價往往不會太高，但佣金不低。帳號背後的運營者通過大量帳號的帶貨，就可以獲得不低的收入。
（短視頻帳號截圖）
目前，網信辦2024年「清朗」系列專項行動中提到了網站平台要對AI生成信息進行標註。各平台目前也已經加強了對AI類帳號的監管。
就此，這類AI生成式帳號的存在空間正在變小，目前查詢可以發現不少帳號已經停止更新或者全部清空。
技術應用的底線在哪裡？
在看過了大量這類AI帳號後，可以發現這些視頻製作十分粗糙，但是這樣的技術已經令不少網友受到了欺騙。
那麼在如今更新、更先進的技術下，又會有多少人無法區分虛假和真實呢？
事實上，目前這類視頻已經可以做到越來越逼真，不少最新的AI視頻已經令許多人很難判斷是否真實。
而隨著技術的發展，讓多數人真假難辨的情況早晚會出現。在這種情況下，明顯的提示不可或缺。用戶應該有知情權，應該被告知所觀看的是AI生成的內容，並非真實的人物。
那麼，如果你看到一個製作精良的AI生成內容，無論是主播還是美女，與你進行交流，你會願意相信它是真實的嗎？
精選：
各大巨頭紛紛入局，智能穿戴市場未來可期？還是前景堪憂？
為什麼手機銷量排名各榜單不同？調研機構如何統計數據？一次全都告訴你！
4月發布新機全綜合對比，哪款值得買？
華為6款新品蓄勢待發，HarmonyOS NEXT細節再曝
iPhone 16全系機模曝光：大屏、潛望鏡頭、新設計，這次買嗎？