最近，你被「ZAO」刷屏了嗎？

這款以「僅需一張照片，出演天下好戲」為slogan的智能換臉app，在上周五（8月30日）晚上被上傳到蘋果應用商店後，立即開始了病毒式的傳播。上線第二天，其下載量就飆升到了免費下載榜單的第二位，雖然這兩天熱度有所下降，但截至發稿時，依舊保持在蘋果應用商店免費榜的第一名。

根據追蹤全球應用下載量的公司App Annie的說法，截至9月1日，「ZAO」已經成為中國iOS應用商店中下載次數最多的免費應用程式。

這是一款基於人工智慧技術的「換臉」App, 使用者只要上傳自己的高清照片，就能將本人面孔與熱門影視劇片段中的明星面孔置換，並且通過「造視頻」與「造表情」兩種主要功能將換臉視頻導出為可微信分享的小視頻。

然而，這把火燃得快，滅的也很快。上線僅兩天，微信就禁止了「ZAO」的分享連結，將其認定為「風險頁面」。「造視頻」功能也很快被停用。應用商店中「ZAO」的評分，也從最初的4.6分一度跌至1.6分的超低評分。甚至因為爭議過大，蘋果應用商店在一段時間內關閉了其評分的顯示。

在這場風波中的種種爭議，都指向一個詞——「隱私危機」。

在人工智慧技術日新月異的今天，每一項新技術的出現，都不可避免的讓那些適用於舊時代的知識、文化、法律和倫理道德產生滯後性，這就會引起大眾對這種技術、及其法律條文的不完善可能帶來安全危機的恐懼。在最初的娛樂狂歡式傳播之後，更多使用過這款App的人開始對它可能帶來的後果感到後怕。「風險」、「不安全」成了風波過後，給人們留下最鮮明的痕跡。

為此，「ZAO」官方甚至發布了一份「道歉聲明」，支付寶官方也表示不存在盜刷風險，但仔細想想，這種AI人臉識別的危機確實不存在嗎？不同身份、不同職業的人，又在如何用自己的方式對抗這種危機呢？

人臉識別功能的「一步天堂」

相信大家應該還記得去年「國泰民安張學友」的傳說。

自從2018年4月7日的張學友演唱會上，警方利用演唱會的智慧安保人像識別功能抓捕了一名在逃嫌犯之後，在接下來一年他的巡迴演唱會上「捷報頻傳」，我們總是隔一段時間就會在新聞中看到又有嫌犯在他的演唱會上落網，張學友因此被稱為「逃犯剋星」。

截止2018年底，共有60多名嫌犯在「逃犯剋星」的演唱會上落網。而在張學友演唱會完成「五殺」、「七殺」、「九殺」的熱搜背後，正是AI人像識別系統強大的智能化功能。

人臉識別系統是近兩年在中國警方的天網系統中才得到普遍應用的功能，在張學友演唱會的檢票口位置就設有幾台應用了這一功能的攝像頭。攝像頭攝取的人臉信息可以直接對接到警方的資料庫，通過移動警務終端和大數據後台分析可以很快定位嫌疑人並最高效的進行抓捕。

除了聲名大噪的「張學友抓逃犯」事件，這種智能的AI技術也在時時刻刻發揮著重要的維護安全的作用，我們再也不會對「通過人臉識別技術抓住了偷手機的人」這樣的新聞感到大驚小怪，畢竟它已經成為我們如今和平環境中不可或缺的一部分。

科技原本是中立的，AI 人臉識別系統更是這樣。而應用了這一技術的換臉功能，卻似乎從誕生開始，就帶著一些不光彩的意味。這也是「ZAO」這款App令人擔憂的原因之一。

危機出現：被濫用的技術

一項技術從「泛濫」到「濫用」需要多久的時間？

在過去，這可能需要很久。而在智能化時代，卻只需要短短不到一年。

2017年9月，利用Face ID進行人臉解鎖的第一款蘋果手機iphone X發布，當時的新聞標題都在宣告人臉識別時代的到來。其實蘋果公司早在2010年收購瑞典面部識別技術公司Polar Rose時，就已經在為開創人臉識別時代做準備。到了次年3月，人臉識別已經成了智能機的標配。

隨著人臉解鎖在智能機中的普及，「刷臉支付」的搶灘戰也在各大科技公司中拉開了序幕。直到今年，幾乎所有電子支付方式都支持「刷臉」功能。

雖然Face ID一直以安全作為其標榜的主要功能，但要那些習慣了將「密碼」深藏於心的普通大眾，把自己最重要的解鎖工具轉變為每日暴露在外的自己的臉，還是不免生出一些惶恐。此次「ZAO」的安全風波中討論最多的，也是在於用戶上傳了自己完整的面部信息後是否會造成信息泄露並最終導致帳戶被盜刷。

在iphone X掀起人臉識別的狂潮僅僅三個月後，一個名為 「DeepFakes」的帳號在Reddit平台發布了幾個色情視頻，並且引起了巨大轟動，因為所有視頻里的女演員都被利用AI換臉技術換成了知名女星的臉，比如「神奇女俠」蓋爾·加朵和「赫敏」艾瑪·沃森。

雖然Reddit很快封掉了這個帳號以及相關的群組，Google、Twitter以及知名色情網站p站等網站都禁止相關的搜索，但一種恐慌還是不可抑制的傳播開來：「你也有可能（在不知情的情況下）成為色情影片的主演。」

並且，「DeepFake」卻從未真正消失，Reddit上的始作俑者將它的代碼開源，越來越多的人們在此基礎上進行「改良」，在腦洞的加持下製作更有噱頭的AI工具和換臉視頻。

電影《逃出絕命鎮》的導演Jordan Peele利用AI換臉和智能聲音模擬技術，借歐巴馬之口說出「川普是傻x」這樣的話，藉以提醒人們警惕信息時代的技術造假。

「ZAO」這類手機App的普及更進一步降低了利用AI技術偽造現實的門檻，在這樣一個人人都有可能成為其受害者的時代，我們總要做點什麼來改變這種危機的到來。除了制定更加完善的法律規範，有著不同身份、不同職業背景的人還能做些什麼呢？

五花八門的對抗方式

智能人臉識別系統在我們的生活更加安全有保障的同時，也在全面入侵我們的生活。甚至帶有人臉識別、表情識別、行為識別功能的攝像頭都已經進入的杭州校園，用於全方位監控學生的課堂反饋。

考勤及行為分析攝像機MegEye-C3V-920和行為分析伺服器能夠通過對課堂視頻數據進行實時的結構化分析，得到學生行為、表情、專注度、前排上座率等多維度課堂數據反饋。

在這樣全方位的監控下，人們也在用自己方式與大時代下的隱私焦慮進行著對抗。

普通人的方式：掩耳盜鈴

當我們想要從被動的注視中隱藏起來，擋臉是我們最原始、最本能的匿名方式。

在《古怪的身體》一書中，日本哲學家鷲田清一記錄了在義大利北部的一座修道院，裡面的廁所既沒有門也沒有隔間，而是在出口處掛著很多面具，意在讓人們上廁所的時候戴上。他們認為只要把臉遮住，被人看到不雅的拉撒也沒關係。只要看不到你的臉，就可以把自己的身份模糊化，任何行為都能被允許。

於是，愛自拍的人在對鏡自拍的過程中可以用手機擋臉的，直播的博主也可以一個可愛的gif圖片擋住自己本來的樣貌。但與其說這是一種「對抗」，不如說它從另一個角度展現了這個普遍匿名的網絡對個人隱私的「渴望」。

更有如利用人臉露出作為營銷噱頭博關注的「喬碧蘿事件」，更加體現了每一個匿名帳號背後對「真相」的如饑似渴，無論是從好的一面，還是壞的。

無論是擋臉還是刻意露臉，我們看似在其中掌控著自己隱私的「暴露權」。我們可以通過自我暴露的方式獲得他人的注意，以滿足社交需求，也可以用適當的暴露為自己謀利。但在面對新技術的出現時，普通人也會為個人的信息安危感到恐慌。我們的「擋臉」，也不過是一種掩耳盜鈴罷了。

藝術家的方式：直面鏡頭

畢業於中央美術學院的前衛藝術家葛宇路，曾經因為用自己的名字命名一條街的「葛宇路事件」而走紅。而在「葛宇路事件」曝光的同年（2017年），他又創作了另一行為藝術作品，《對視》。

2014年，葛宇路在北京百子灣發現一條無名路，他按照附近路牌的規格豎起了一塊以自己名字命名的「葛宇路」路牌，3年內沒人發覺異常，路名被百度地圖、高德地圖採用 / 圖源：央視網。

在《對視》的創作中，他尋找到日常生活中那些不被注意的監控攝像頭，通過搭腳架爬到監控攝像頭的前面，然後與監控攝像面對面進行注視。

往常監控都是來監視我們的，我是不是也可以看它？在這裡，我質疑的是一種監控的權力。我對它並不能做出實質的改變，我只是盯著它，爭取盯幾個小時把背後看我的人看出來，或者說我們之間能夠有一瞬間的對視，我覺得那就很棒了。

- 葛宇路 -

在這個過程中，葛宇路用自己的方式質疑監控的權力，用社會實驗的方式進行反思。

與此類似的，活躍在中國當代藝術節的著名藝術家徐冰，也曾用獨立影像的方式對遍布城市的監控攝像進行過反思。

這部由徐冰導演，詩人翟永明、張憾依編劇的影片《蜻蜓之眼》，沒有演員、沒有攝像師，全部素材取自各種不同空間、場景中的監控錄像，經剪輯而成。用編劇之一翟永明的話描述，就是「全中國的攝像頭都是我們的攝影師」。

他們用自己身為藝術家的敏感，察覺出如今「被監視」的普遍，並且用藝術創作來與無處不在的隱私危機表達反抗，並試圖與形成這種狀況的技術本身進行交流對話。

科學家的方式：用AI對抗AI

既然隱私危機由AI技術帶來，科學家也在試圖用AI來對抗它。

來自比利時魯汶大學 (KU Leuven)的兩個的大學生，就嘗試製作了一個40×40公分的圖片，將這張圖放在你和智能AI攝像頭之間，就好像穿上了「隱身斗篷」，AI將不會識別出你的存在。

只要將這個「隱身衣」移開，AI就會重新識別你的存在。

這個成功被騙到的AI是目標檢測界的翹楚YOLOv2，僅需一張（經過科學製作的）圖片，就能讓你在智能監控中實現隱形。這種方法在他們的論文中被稱為 「對抗性補丁」(adversarial patch)。

另一邊，不滿於人臉識別的濫用，俄羅斯最大的科技公司Yandex的技術總監Grigory Bakunov與其他幾個黑客一起，開發出了一種「反面部識別算法」。這種算法通過化妝的方式實現，只要在臉上畫出特定的線條，就可以有效干擾AI的面部識別。

Grigory Bakunov聲稱這項技術非常有效，並且對於男女都適用。但為了避免技術被濫用，他並沒有公開反人臉識別系統的詳細算法和原理。

「在俄羅斯，面部識別系統正被不同的人們使用著。在莫斯科，要避免被攝相機拍到臉幾乎是不可能的。」Grigory Bakunov這樣表示。但他也同樣意識到了這樣的「隱身技術」也有可能被用來作惡。

「技術是一件好事，但對我而言，道德具有更高的價值。」所以Grigory Bakunov選擇了不公開這一的技術。

政府的方式：立法限制

今年5月，美國舊金山監事會於通過一條新禁令，決定禁止該市所有單位使用人臉識別技術，包括警察局等政府部門。也因此，美國舊金山成了全球首個禁止人臉識別的城市。這一舉措旨在加強新技術的監管，並消除個人隱私泄露的隱患。美國加州的奧克蘭和麻薩諸塞州的薩默維爾也緊隨其後表示，將在未來考慮實行這一禁令。

有城市實行禁令，也有政府反其道而行之。今年2 月，英國倫敦一名男子因為在面部識別設備前遮住了自己的臉，而受到了警察的調查，最終因「行為不端」被處以 90 英鎊的罰款。

英國的政府官員做出了回應，他們認為這項AI人臉識別是在讓人們的生活更加安全，使得警務更加高效，是在保障居民的人權。

兩種截然不同的政府態度，正顯示了AI人臉識別技術的兩面性。而如何在其中進行取捨，並且制定出一套適應新時代的法律和倫理規則，這是迫切需要政府不斷進行研究和探索的。

寫在最後

人會犯錯，AI也會；人會說謊，AI也在學著辨別人類的謊言，並且偽造讓人難以區分的現實。

AI換臉所用的生成對抗網絡（Generative Adversarial Network，簡稱GAN），曾經被評為十大可能影響未來的創新技術。在人工智慧不斷更新換代的今天，我們身處其中，雖然以一己之力無法逆轉後真相時代的來臨，不過也不用太害怕，你看，不管是藝術家、科學家還是政府，還有這麼多人在為了我們的隱私安全做著不同的嘗試。

「安全攝像頭還安全嗎？」這個問題，在智能網際網路時代本身就是一個悖論。我們唯一能做的，就是比人工智慧的成長速度，更快的進步。

你用過「ZAO」了嗎？怎麼看待它帶來的爭論？

你有什麼更好的抵抗危機的辦法嗎？

歡迎在評論和我們分享~