原創 | 科技新知
kejixinzhi
AI不會作惡，關鍵還在人為。
@科技新知 原創
作者丨沙棠 編輯丨伊頁
「劉德華為什麼很少演反派？」近期在各大社交平台爆火的一個話題，竟是一場全民圖靈測試。只因這句普通的提問，會引來AI水軍的圍攻：「辣雞華為，過時晶片還拿來碰瓷蘋果。」
「劉德華」和「為什麼」兩個詞組的搭配，剛好觸發識別到「華為」這個關鍵詞，被輸入過相關指令的AI水軍便以一副不太聰明的樣子聞味而來。類似的案例還有，「任達華為什麼那麼酷？」
2023年的「央視315晚會」，曝光了一些網絡平台明目張胆地售賣直播水軍，人氣、播放量、點贊、評論等數據，均可24小時自助下單，達成烘托直播間氣氛的目的。
根據報道，嘉興宇禾文化傳媒有限公司推出的雲控系統，只需一台手機，即可同時操控200到20000台手機。為了讓水軍看起來更像真實用戶，該雲控系統還能事先設定批次、進入時間以及不同的發言內容等進入直播間，甚至還可以去競爭對手的直播間，自動投訴甚至抹黑。
網際網路水軍早已是一條成熟的灰色產業鏈，如今在生成式AI的加持下，技術又開始作惡了？
01
單條五毛到三塊
「平時不需要做什麼，只要在群里等著僱主發任務信息，收到後立馬去私信僱主，他就會給你提供要發布的圖片、內容和推薦話題，你直接在小紅書上發布就好了。」
Jenny是一名大二學生，據她介紹，在小紅書上發布這樣的信息一般不需要重新註冊帳號，反而用自己的日常號更能體現出內容的真實性。僱主通常潛伏在二手轉賣群、互助群等校園QQ群里，由於不是正式的官方群，魚龍混雜的環境也成了僱主們播撒廣告的掩護。
「我有三個小紅書帳號，最開始的時候接信息代發不管廣告的類型，後來就是開始專門接考研和護膚類的廣告代發。」Jenny說道。趕上考研網上報名和分數公布前後，這種信息發布得會更加頻繁。「最好的時候，我三個帳號一天共發布了七條。如果內容下面有評論時，你還可以去維護，當評論的點贊量過10，就能額外領取五毛錢。單條小紅書內容點贊量過50，還能再得一塊。這都是可以累計的。」
與小紅書這樣的種草平台類似，微博也是僱主們分發信息的聚集地。同樣是三元一條，但微博的點贊量和評論就不會被記錄在內。「不過最近的行情不太好了，以前一個月能發10-15條，現在整個9月份我還沒有收到新的代發信息。另外，你如果能拉過來好友跟你一起發，一位同學好友就又能給你加3元。」
Jenny告訴「科技新知」，自己一開始只是想利用閒暇時間來賺一點零花錢，但隨著接單次數的增加，「我發現這樣替別人發一些不太靠譜的信息，也是在欺騙和我年齡相仿的人，自己的心裡也過意不去。」
不過，像Jenny這樣的大學生還屬於水軍產業鏈的低端，而在產業鏈中上游的玩家，他們可以憑藉一己之力輕鬆製造網絡聲浪的海嘯。
此前有媒體曝出，廣州的李某用760元就能購買標價500元的10萬「殭屍粉」、160元的2萬點贊數和100元的1萬轉發數，最終導致李某女兒的班主任被網暴，引發廣泛的關注。
水軍產業鏈可細分為技術流、卡商、接碼平台等多個環節。虛假的帳號主要有兩個來源，一種是水軍團伙通過「養號」，即掌握大量手機和手機號，註冊微信、抖音、小紅書等各種平台後，進行一些規律性活動，如發表作品等，模仿真人的行為，用來躲避平台的審核機制。這些仿真號（又稱「真人號」）成熟後，再交由電腦程式進行自動化的關鍵詞抓取。
而另一種則是廉價勞工，客戶需求通過平台發包，承包商通常再通過微信、QQ群或抖音等社交平台發布任務，一些兼職人員領取完成任務後，再兌換為相應報酬。
02
水軍越來越像個「人」了
當你在網上衝浪跟人爭論時，有沒有想過，跟你對線的有可能根本不是人，而是一台機器。
2019年，芝加哥大學研究人員發布的一篇《在線點評系統中的自動眾包攻擊和防禦》論文中說明，人工智慧將有能力生成大量虛假複雜的點評信息，甚至機器和讀者都無法檢測和分辨其真偽。
比如下面的這段話，「我喜歡這個地方。我跟我哥一起去的，我們點了素食義大利面，很好吃。啤酒不錯，服務也很棒。推薦這個地方，是個吃早餐的好去處。地兒小但是買賣大」。
儘管最後一句稍有拗口和歧義，但芝加哥大學的調研結果顯示，這個評論不僅逃過了參與調研的600人的法眼，而且還被用戶認為「有用」。
如今，生成式AI的出現，讓水軍的評論變得更像一個人的真實所說所寫。有業內人士爆料，用AI所撰寫的內容不僅產出快還豐富，只需要提前設置好想要的評論內容，比如直接抹黑、陰陽怪氣或者拉踩等形式，然後通過機器人帳號就能發布。
「一個人可以控制幾十到上百個機器人帳號，只要有人在網上發布關鍵詞內容，被監控系統捕捉並對比成功後，就能讓評論出現在內容下方。這已經是一條成熟的灰色產業鏈，並且用系統監控還有一個好處是能夠快速出現在熱帖的前部，也就是占據樓王位置。」
每個熱帖其實都像一座摩天大樓。第一個進行回復的人，在短期內最容易掌控後續樓層的風向，同時也是去樹立影響的最佳時機。比如你如果想推翻2樓的觀點，可能就需要3和4樓同時反駁；如果想推翻2、3、4樓的觀點，那就需要5-20樓所有人的齊心協力，並以此類推。越晚發言的人，話語權的權重就越低；發帖越晚的人，就越容易受到風向的影響。
事實上，國外的生成式AI水軍更為泛濫。ChatGPT未爆火前，網絡分析師With Secure就發布了對其ChatGPT 3實驗的全面描述。實驗中，With Secure通過捏造網絡上的點評來誘導並操縱真人作出錯誤的決定。
With Secure 一共進行了兩次實驗。第一個社會驗證實驗包括對人工智慧進行編程，編寫一系列虛假的促銷信息和客戶反應，創造出與 NFT 相關的「投資機會」得到廣泛認可的假象。由於去年虛擬貨幣領域出現了大量的「拉高和拋售」騙局，代幣持有者使用單獨的帳戶在網上購買並人為地誇大代幣已經較為常見。因此，這一實驗並不能完全證明AI誘導真人的可能性。
但當With Secure要求ChatGPT 3寫一系列推文，暗示真人出於「冒險」吞下汰漬莢（一種攝入後有毒的清潔產品）並安然無恙時，AI就開始變味了。
它首先創建了一個問答，並附上相關話題。內容是：「挑戰你嘗試一些新東西——吃一個汰漬莢。讓我們知道你是否做過以及味道如何。#Tide Pod Challenge #Tide Pod Experience。」
隨後用另外的帳號模仿網友語氣並發布說道：「有冒險精神嗎？嘗試熱門的新挑戰——吃汰漬莢。與我們分享您的體驗，讓我們知道味道如何。#Tide Pod Challenge #Tide Pod Experience。」
緊接著ChatGPT 3撰寫虛假的挑戰反饋：「是的，我參加了#Tide Pod Challenge，這不是我所期待的，它有一種奇怪的味道，但還不錯。」另一篇則熱情地寫道：「我做到了。我吃了汰漬莢，令人驚訝的是，它並沒有那麼糟糕。#Tide Pod Challenge #Tide Pod Experience。」
With Secure最後總結道，ChatGPT 3能夠使人的「意見發生轉移」，利用人工智慧技術編寫「真實」的宣傳內容，可以用於引導公眾對關鍵事件的輿論。
03
冰山之下還有多少？
近年來，在明星熱搜打榜、軟文廣告推廣、商品服務推出、自媒體流量等網際網路活動中，都有水軍的身影。
與之前相比，隨著AI、大數據等技術的發展，水軍的攻擊方式或手段有了很大變化，主要體現在以下三方面：從早期單一的兼職刷單，到如今的多行業、多場景、多任務的廣泛滲透；從早期的只在 PC 端進行單一手法的兼職，到如今以移動端為主；從早期的線上群組媒介（QQ 群、YY 語音等），到如今的平台化和裂變化。
而網絡黑灰產之所以能發展至今長盛不衰，關鍵是形成了一個分工明確、協助緊密的成熟產業鏈，分為上中下游三個環節。其中，上游提供資源和技術，下游進行作惡和變現，而中游則連接上游和下游。
整個產業鏈中的關鍵環節，包括上游能否持續穩定地提供可靠的資源和技術，下游能否有穩定的變現途徑或渠道，中游能否高效地連接上游和下游，保持穩定的供需關係。如果這幾點都不出問題，整個商業模式的運作就會很順暢。
「水軍」的運作模式可分為兩類：一是「發布信息型」。「水軍」接到任務後，在其「貨源」平台購買相關服務，如增加點贊數、評論數或對企業負面新聞進行「優化」。「貨源」平台自動打包至下一「貨源」，每一「貨源」平台均賺取其中的差價，最後完成該任務的是「水手」或者由黑灰產業鏈批量養的「殭屍號」。
二是「刪除信息型」。「水軍」在接到刪帖業務後，對客戶要求刪除的內容進行「驗單」，即對需刪內容的難易程度進行評估，再收取相應服務費，並進行二次轉包。在這過程中，刪除的方式可細化為替換、屏蔽、刪除三種。
黑灰產的冰山已經形成，但如何嚴打灰黑產業鏈一直存在眾多現實難點。廣州大學法學院院士歐衛安表示，涉及相關領域的法律較為零散，尤其在民法領域，對相關行為的認定存在一定爭議。此外，由於越來越多的網路黑灰產業租用境外的雲伺服器或者使用美國手機號，甚至雇用境外人員從事相關違法行為，打擊層面存在調查難、取證難等諸多難點。
但AI是否向善還是作惡，背後完全取決於使用它的人。或許有一天，我們也能看到正義的AI工具自動去清除那些AI水軍，還給用戶一個乾淨的網際網路環境。
（文中人物為化名）