為了反擊賽博侵權,有人開始用工具給AI「投毒」了?

2023-11-02     遊俠網

原標題:為了反擊賽博侵權,有人開始用工具給AI「投毒」了?

文/一碗葫蘆

看到這張圖,你的第一想法是什麼?

——那麼這張呢?

是的,不知道你看沒看出來,這兩張圖均為AI繪圖軟體Midjourney V5.2所生成的AI作品。

但老實說,在看第一張圖片時,我還在為其中過於完美的皮膚和頭髮細節質疑這到底是不是AI作品;

而當看到第二張圖片的時候,我已經毫無懷疑的覺得——這是一張真實的畫作了。

自從前幾個月Midjourney更新到第五個版本(目前已更新到v5.2)之後,AI作品的最後一道難題——「AI不會畫手」也隨之被攻克。

你會發現,最近的AI圖片的細節越來越完善,似乎看不出一點問題。

AI圖片和真實作品的邊界,似乎已經變得越來越模糊了。

AI學會畫手前後

但在另一邊,隨著AI作品越來越難以分辨,關於AI作品是否造成侵權的問題也變得愈加嚴峻。

還記得去年12月的時候,由於最大的藝術作品網站Artstation由於公開支持上傳AI作品,遭到了藝術家們的集體抵制;

Artstation的事件可以說是打響了藝術家反AI的第一槍

而當AI這股風吹到了國內,國內的畫師們也因為平台侵權等問題在Lofter、小紅書上掀起了一場反AI的抗議,到如今依舊有很多用戶呼籲停止利用AI進行創作。

當時Lofter的版面

為了避免自己的作品被拿去「煉丹」,不少畫師試圖用投喂「鬼圖」的方式污染AI資料庫。但由於計算機算法和人力的速度相差懸殊,畫師們試圖以自發行動來影響AI的行為,似乎也有些「以卵擊石」了。

那麼,既然AI繪圖是基於網際網路技術進行的,那麼有沒有可能,大家也可以利用這種技術來「反AI」呢?

你別說,最近還真的有人做出了一款專門用來給AI「投毒」的工具——Nightshade

Nightshade是芝加哥大學團隊開發的一款數據污染工具,可以用來反擊「AI在未經創作者允許的情況下利用其作品來訓練模型」的這種行為。

那麼它要如何污染AI資料庫,從而影響AI生成的作品呢?

——直白點講,就是給AI「投毒」

類似於創作者們給資料庫喂「鬼圖」的行為,這個工具可以給畫作打上一種「隱形」的標記,意為「下毒」。而一旦這些被下了毒的畫作被非法抓取到資料庫中進行訓練的話,那麼這整個訓練模型就會「中毒」,生成一些「文不對題」的混亂圖片。

例如,當用正常的AI訓練模型,它或許能夠給你生成一張滿意的圖片。而當你在資料庫被污染之後再進行訓練,那麼它輸出的可能是類似於「狗變成貓」、「車變成牛」這類和需求完全無關的圖像。

使用AI生成狗的圖片

使用AI生成車的圖片 沒被污染的AI圖(前)被污染後的AI圖(後)

同時,隨著這些圖片的「毒效」增強,生成的圖片也會變得更加千奇百怪。當資料庫里有50張「毒圖」時,生成的圖片就會變得和需求不一樣;而當庫里足足有300張毒圖時,生成的圖片則會完全不相關。

從上往下依次為沒被污染,50張、100張、300張毒圖輸出的圖片

而這個「下毒工具」厲害到連圖片的風格都能改變,如果資料庫中的毒性夠大,你甚至能夠看到類似「奇幻風格到點彩畫法」、「卡通畫風到印象派」這樣的轉變——不得不說,這生成的圖片和原來的需求不能說是完全不同,只能說是毫不相關了。

奇幻點彩

抽象派動漫

卡通印象派

在如此強大的反AI工具公布之後,自然也引起了創作者圈子中的一場轟動。

不少創作者都開始自發的分享並介紹起了Nightshade,希望大家能夠好好利用這個工具,能夠在和AI的這場戰爭中打一個好的「翻身仗」。

也有很多網友表示,即便自己迫於需求使用AI工具,但是也很高興能夠看到出現制衡AI侵權現象的工具,能夠讓AI「問心無愧」的生成大家真正需要的作品。

但在另一方面,由於AI技術發展得實在是太快了,所以不少人對這個尚未成熟的技術還是報以消極的態度。

有不少認為,既然可以「下毒」,那麼肯定還有「解毒」的方法。所以通過對圖片下毒的方式,最終或許也會被使用AI工具的人們逆向解決。

而從長遠來看,這種使用技術反擊的方式只會成為創作者們無法承受的「軍備競賽」——利用網際網路技術互相制衡,但無論結局怎樣,最後都會兩敗俱傷。

就好像《賽博朋克2077》中的故事一樣,為了抵禦流竄的AI,人們建立起一道「黑牆」隔絕現實和失控的網絡空間。但沒有什麼防火牆是絕對可靠的,隨著技術的升級,這道牆必然在內外的鬥爭中不再牢固。

而要說創作者與AI之間的這場拉鋸戰,是否會如「黑牆」內外的人們一樣,持續進行科技發展下的較量?我們不得而知。

《賽博朋克2077》中的黑牆

但無法否認的是,在這段時間裡,這個給AI作品「下毒」的工具,一定能夠成為創作者們反擊AI侵權行為的有力武器。

文章來源: https://twgreatdaily.com/zh-cn/f77960edfe00a6fe3a51913ec4665be4.html