為什麼谷歌也不敢發布這項技術

2023-11-06     InfoQ

原標題:為什麼谷歌也不敢發布這項技術

作者 | Bobby Allyn

譯者 | 平川

策劃 | 褚杏娟

想像一下,你在一條繁忙的城市街道上閒逛,順手拍下一個陌生人的照片,並上傳到搜尋引擎,然後它幾乎立即就可以幫助你確認這個人的身份。

這不是一個假設。現在,一個名為 PimEyes 的公共網站實現了這種可能。它被認為是最強大的在線面部識別工具之一。

在 TikTok 上,PimEyes 已經成為網際網路偵探識別陌生人的強大工具。例如,有一個播放數百萬次的視頻演示了如何將 PimEyes 和其他搜索工具結合使用找出 Taylor Swift 演唱會上任意一位攝影師的名字。TikTok 的社區指南明令禁止包含可能導致跟蹤、身份盜竊和其他犯罪的個人信息。但本文撰寫時這個視頻還在。

這個網站最初是由來自波蘭的兩名電腦程式員於 2017 年創建的,是一種和反向圖像搜索類似的人工智慧工具——它掃描照片中的人臉,並在網際網路的黑暗角落裡爬來爬去,然後顯示許多人自己甚至都不知道其存在的照片,背景有餐館,有音樂會。

當把一張人臉照片上傳到 PimEyes 時,這個搜尋引擎就會生成結果。有些結果,比如這組照片中的最後一張,是一個與搜索無關的人。(來自 pimeyes.com)

當把一張人臉照片上傳到 PimEyes 時,這個搜尋引擎就會生成結果。有些結果,比如這組照片中的最後一張,是一個與搜索無關的人。(來自 pimeyes.com)

雖然該公司聲稱這項服務可以幫助人們監控自己在網絡上的存在狀態,但仍然引發了不小的爭議,因為跟蹤者以它為監控工具收集了無數兒童的照片,還在未經許可的情況下將死者的照片添加到其資料庫中。

由於美國沒有任何管理面部識別技術的聯邦法律,所以可以預計,未來幾年,模仿 PimEyes 的服務將會大幅增加。考慮一下,每個人都在公共場所隨時使用這項技術會帶來什麼後果。

《紐約時報》記者 Kashmir Hill 最近出版了一本關於面部識別技術的書。她說道,「比如在火車上,你撞了別人,或者穿了一些令人尷尬的衣服,有人可能就會拍下你的照片,找出你是誰,然後發關於你的推文,或者叫出你的名字,或者在網上寫一些關於你的壞話。」

PimEyes CEO:

這項服務有許多「合法用途」

PimEyes 的基礎版對任何人都是免費的,但該公司也提供了一些高級功能,比如當網上出現新照片時,它會提醒用戶那可能是他們感興趣的圖像,但這項功能需要按月支付訂閱費。

TikTok 用戶指出,人們可以選擇不讓自己的照片出現在 PimEyes 資料庫中,但對該搜索工具的測試表明,這並不能保證自己的照片一定可以從該公司的海量照片庫中刪除。

Giorgi Gobronidze 是一名來自東歐喬治亞的人工智慧研究學者,他現在是 PimEyes 的執行長。根據他的透露,該公司有大約 12 名員工。

在接受美國國家公共電台(NPR)採訪時,Gobronidze 表示,該工具的濫用情況被誇大了。同時他還指出,該網站的檢測工具只截獲了數百起濫用該服務的案例,如跟蹤或搜索兒童。

當人們用 PimEyes 搜索時,它並不會顯示照片上的人的名字。儘管如此,把這些碎片信息拼接起來,確定某個人的身份,並不需要多少網絡偵探工作。

Gobronidze 強調,從技術上講,PimEyes 並不能單獨生成某個人的身份信息。「我們不識別人的身份,我們只識別那些包含與搜索內容相似圖片的網站。」PimEyes 明確要求,人們只能搜索自己或者是同意讓其搜索的人。儘管如此,沒有什麼能阻止任何人在任何時候對其他人進行搜索。不過,Gobronidze 也說道,「人們並不像我們有時候想像得那麼可怕。」

他還表示,「PimEyes 有許多合法的用途,比如保護自己免受詐騙。或者確定你或你的家人是否被身份竊賊盯上了。」但由於擔心政府當局可能利用該服務針對抗議者和持不同政見者,目前,PimEyes 在部分國家屏蔽了該服務。

為什麼谷歌不敢發布這項技術

《紐約時報》記者 Hill 表示,Meta 和谷歌等大型科技公司已經開發出了超強的面部搜尋引擎。

然而,這一工具被武器化的可能性是如此之大,以至於一些高管,比如前谷歌執行長 Eric Schmidt,一直不願將其推向世界。在快節奏、競爭激烈的矽谷,這幾乎是不可想像的舉動。

Hill 表示,「早在 2011 年,Eric Schmidt 就說過,這是谷歌已經開發完成但決定保留的一項技術,因為一旦它落入壞人手中,比如獨裁者,就太危險了。」

這項技術有一些潛在的有益的用途。例如,當你忘了一個人的名字,它可以幫你快速識別,或者正如該公司所強調的那樣,密切關注自己在網絡上的照片。

但這項技術有可能損害公民的隱私。例如,政府和私營公司可以利用這項技術在公共場合對人們進行側寫或監視,這一點已經引起了研究該工具的隱私專家的警惕。

波士頓大學法學院專攻面部識別技術的教授 Woodrow Hartzog 認為,「這些好處只會被政府和行業拿來當藉口,他們的目的只是為了擴大他們的權力和利益,而不會帶來任何有意義的好處。所以,我根本不認為人類有了面部識別會比沒有它時更好。」

像 Apple Face ID 這樣還可以,

但不宜擴大

當然,已經有一些版本的面部識別工具問世了,比如用蘋果的 Face ID 解鎖 iPhone。在機場,運輸安全管理局可以通過面部掃描來確認某人的身份。

但是,面部搜尋引擎將這個想法提升到了一個完全不同的高度。

在這方面,大型科技公司一直裹足不前,而推動這項技術的小型初創公司獲得了良好的發展勢頭,比如 PimEyes 以及另一家名為 Clearview AI 的公司(為執法部門提供人工智慧面部搜尋引擎)。

Hartzog 說道,華盛頓需要在這些工具變得過於普及之前對其進行監管,甚至是徹底禁止。「這確實可以說明,面部識別有多大的放射性和腐蝕性,這也是為什麼大型科技公司一直拒絕涉足這一領域,即使那可以賺很多錢。」

面部識別搜尋引擎會像

AI 聊天機器人一樣快速流行

根據矽谷大多數觀察人士的預測,這只是時間問題。

人工智慧聊天機器人是一個有益的教訓。多年來,矽谷的巨頭們一直在實驗室里開發強大的聊天機器人,只不過一直保密,直到一家規模較小的初創公司 OpenAI 將 ChatGPT 向公眾開放。

科技分析師表示,為了保持競爭力,大型科技公司最終可能別無選擇,只能公開先進的面部搜尋引擎。

但 Hatzog 表示,他希望這樣的未來永遠不會到來。「如果面部識別技術得到廣泛應用,那麼我們將無處可藏,我們並沒有真正地考慮過這一點。」

「行走的條形碼」

在歐盟,立法者正在討論在公共場所禁用面部識別技術。

布魯塞爾活動人士 Ella Jakubowska 希望監管機構能更進一步,徹底禁止這些工具。

Jakubowska 發起了一項名為「要回你的臉」的活動,旨在警告人們,當你去看醫生、在大學校園裡散步,甚至過馬路時,你的臉都會被掃描。在有些地方,那已經成為日常生活的一部分。

Jakubowska 說道,「我們在義大利看到了生物識別技術的應用,他們稱之為』智能『監控系統,用來檢測是否有人在閒逛或擅自進入。」

Jakubowska 表示,歐盟所謂的人工智慧法案將提出有關如何監管人臉、指紋和聲音等生物識別數據的規定。「我們不接受這樣的觀點:把人類當作行走的條形碼,即使我們沒有做錯任何事,政府也可以監視我們。」Jakubowska 說道。

與此同時,在美國的一些地方,比如伊利諾斯州,對於私營公司如何掃描和使用人們的面部信息,有專門的法律規定。未經同意掃描居民面部的公司將受到經濟處罰。

但在聯邦法規出台之前,私營公司記錄人臉的方式和地點幾乎不受限制,而且在很大程度上,決定權在開發這些工具的市值數十億美元的科技公司手裡。

原文連結:

https://www.npr.org/2023/10/11/1204822946/facial-recognition-search-engine-ai-pim-eyes-google

產品 + 工程 + 人才,網易數帆如何將數智生態方法論落地生根?

「我不懂的、總有人懂」,軟體開發行業已經開始扭曲變形

OpenAI 剛剛又殺死了一批初創公司

瘋狂馬斯克的「極限」計劃居然成功了?!「下雲」後成本降低 60%,部分功能代碼精簡 90%,30 天急速遷移伺服器

文章來源: https://twgreatdaily.com/zh-cn/f00e019a4e45eb89af64ce75a55d8beb.html