今日頭條的Slogan是：「你關心的，才是頭條」，和抖音一樣，它們會根據你的喜好來推薦內容。淘寶、京東、拼多多等APP同樣大量採用興趣推薦這樣的算法，不同的人輸入同一個關鍵詞，出來的展示頁面甚至千差萬別。
網際網路加劇了個性化
網際網路的發展讓人類身處日益算法的社會而不自知。一方面，它可以讓你更便捷地找到自己感興趣的資訊或商品，同時它也讓人「上癮」，比如「抖音五分鐘，人間三小時」，讓你與不同的意見信息分離，隔離在自己的文化或思想泡沫中。
隨著技術的發展，人們享受了更便捷的生活，但背後可能需要付出自己的隱私和部分控制權；人和技術分別扮演著怎樣的角色，這些技術為誰工作；科技越來越善於左右人們的注意力，但最終，它會把我們的注意力引向何方……
以下文位元組選自《過濾泡：網際網路對我們的隱秘操縱》第七章，由出版社及譯者授權發布。
01 流動的世界
豐富的心理模型和對新數據流的測量，從心率到音樂選擇無所不包，為網絡個性化開闢了新的領域，其中的變化不僅僅針對產品或新聞片段，連網站的外觀和風格都可以因人而異。
為什麼網站要看起來都是一樣的？不同的人不僅對不同的產品反響不一，而且對不同的設計感覺、色調甚至不同類型的產品描述也會有不同的反應。不難想像，針對不同的顧客，沃爾瑪的網站可以有不同的風格：有些是柔和而溫暖的色調，有些則是很有個性的極簡主義設計。只要容量允許，為什麼針對每個客戶只能有一種設計？為什麼不能根據我是生氣還是開心，給我看網站的不同版式？
購物網站會分析用戶的點擊量，找出哪種信息和展示風格對用戶最有效，然後隨著特定用戶的認知風格來調整網站布局
這並非科幻小說中的情節。在麻省理工學院的商學院，約翰·豪澤(John Hauser)領導的一個團隊已經開發出了所謂的「網站變形」(Web site morphing)的基本技術，購物網站會分析用戶的點擊量，找出哪種信息和展示風格對用戶最有效，然後隨著特定用戶的認知風格來調整網站布局。
豪澤估計，變形的網站可以增加21%的「購買意向」。對整個廣告行業來說，這意味著數十億美元。而且事情還沒完，通過這種方式推銷商品之後，新聞和娛樂網站也可以變形，帶來更高的收益。
一方面，網站變形可以讓我們的上網體驗更舒適。通過提取用戶的數據資料，上網就像老朋友見面，賓至如歸。但它也為一個詭異的夢境打開了大門，在這個世界裡，周圍的環境不斷在我們背後變來變去。更加詭異的是，人們的使用體驗可能會像做夢一樣，與他人分享的可能性越來越小。
拜「增強現實」所賜，這種體驗可能很快在離線狀態下也能正常運行。
人們的使用體驗可能會像做夢一樣
「在現代戰場上，」雷神航電（Raytheon Avionics）的經理托德·洛弗爾(Todd Lovell)告訴記者，「數據實在太多了，而大多數人不知道如何使用它。你如果只是試圖用眼睛來看，一點一點地閱讀它，就永遠不會理解。因此，現代科技的關鍵是獲取眼前所有的數據，將其轉化為有用的信息，讓飛行員秒懂，然後快速行動。」
洛弗爾主持的項目代號為「天蠍」(Scorpion project)，目標是把谷歌整理在線信息的做法應用於現實世界。
天蠍計劃中，飛機駕駛員會戴上一個單片眼鏡，該顯示裝置可以實時詮釋飛行員視野中的景物。它對潛在的威脅進行顏色編碼，突出顯示在何時何地飛彈鎖定了敵方，還具有夜視功能，減少飛行員在分秒必爭的情況下還要看儀錶板的需要。噴氣式飛機飛行員保羅·曼西尼(Paul Mancini)對美聯社說：「整個世界都變成了一塊螢幕。」
這就是增強現實技術，它正迅速從噴氣式飛機的駕駛艙轉移到消費設備上，過濾掉日常生活中的雜音，提高重要信息的信號。將你的蘋果手機攝像頭和一個餐館推薦程序Yelp配合，對準某家的店面，你就能看到食客們的評級隨意地顯示在上面。一種新型的主動降噪耳機可以感知和放大人類的聲音，同時降低其他街道或飛機的噪聲。新澤西州的梅多蘭茲足球場耗資1億美元開發了一種新的應用程式，讓進場觀賽的球迷能夠實時分析比賽，查看重要數據，並從不同的角度觀賞關鍵時刻。現場的觀眾不僅能夠親歷賽場氣氛，同時也能享受電視觀眾的全方位資訊覆蓋。
美國國防部高等研究計劃署(DARPA)正在研發一項技術，如果成功了，連天蠍計劃都將黯然失色。自2002年以來，DARPA一直在推進它所謂的「增強認知」(AugCog)研究。結合認知神經科學和大腦成像，該研究致力於尋找最有效地傳遞重要信息到大腦中的方法。增強認知的前提假設是，單人同時完成多線程任務的能力是有基本限度的，而「這種能力本身也會隨著一系列因素的變化而波動，包括精神疲勞、新奇感、厭倦感和壓力」。
增強認知」致力於尋找最有效地傳遞重要信息到大腦中的方法
通過監控大腦中與記憶、決策等相關的區域的活動，增強認知設備可以確保找出並強調最重要的信息。如果你的視覺可吸收的資訊已經達到上限，系統可能就會發送音頻警報。
根據《經濟學人》報道，在一項增強認知的試驗中，用戶的回想能力提高了100%，工作記憶提高了500%。如果這聽起來有點不可思議，那麼請記住：DARPA也參與發明了網際網路。
增強現實技術是一個蓬勃發展的領域，澳大利亞研究個性化和增強現實的專家加里·海斯(Gary Hayes)認為，至少有16種不同的方法可以用來提供服務和賺錢。在他看來，導遊公司可以提供增強現實導覽服務，讓遊客在逛街的時候可以看到關於建築物、博物館文物和街道的信息，以半透明的方式疊加於周圍環境。購物者可以使用手機應用程式立即獲得他們感興趣的產品信息，還能進行比價(亞馬遜已經可以提供這項服務的初級版本了)。而增強現實遊戲可以將信息覆蓋在真實世界上。
增強現實技術提供了附加價值，也為廠商以新的方式重新引發消費者注意和接觸廣告提供了一個機會。只要肯花錢，就可以用數字的形式把商標疊加在美式足球場的畫面上。
但增強現實技術能在現實世界以個性化的方式打廣告：比如說你打開一個應用程式，想在人群中找一個朋友，附近一棟建築上就出現了一幅巨大的可口可樂廣告，上面的模特是你的臉，還有你的名字在上面。
當個性化的視聽資訊與面部識別結合起來時，事情就變得更有意思了：你不僅能夠過濾信息，還能過濾人。
OkCupid是網上最受歡迎的約會網站之一，它的創始人之一克里斯·科因(Chris Coyne)有段時間一直在思考怎樣過濾人。科因精力充沛，談吐誠懇，思考問題時眉頭緊鎖，表達觀點時會揮動雙手。主修數學的時候，他開始研究如何使用算法為人解決問題。
「用數學來賺錢的方法很多。」我們在紐約的韓國城見面，一起吃石鍋拌飯。科因有許多同學去了對沖基金從事高薪工作。「不過，我們感興趣的是如何用數學讓人們快樂。」他說。還有什麼比幫助人們墜入愛河更讓人開心的呢？
「用數學來賺錢的方法很多」
科因邀請大學室友薩姆·耶格爾(Sam Yeager)和馬克斯·克羅恩(Max Krohn)一起研究目前的約會網站，但是越看越生氣：很明顯，那些約會網站更想讓人們趕快刷卡入會，而不是牽紅線。你一旦付錢了，就會發現，那些帥哥美女的帳戶已經閒置多年，或者根本不回覆你。
科因和他的團隊決定用數學來解決這個問題。網站提供的服務是免費的，他們不再提供一刀切的解決方案，而是為網站上的每個人開發個性化的匹配算法。就像谷歌利用點擊率來優化搜索結果一樣，他們想盡一切辦法最大限度地提高用戶之間真正對話的可能性。
按照他們的想法，如果你能在用戶之間搭建起互動的橋樑，財源將會滾滾而來。而在本質上，他們是為尋找伴侶的人們搭建了一個現代搜尋引擎。
當你登錄OkCupid時，你會被問到一連串關於個人的基本問題。你相信上帝嗎？你參加過三人行嗎？你厭惡抽煙嗎？你介意第一次約會就發生關係嗎？你有性病嗎？（如果回答是，你會被送到另一個網站。）你還可以表明你希望未來的伴侶如何回答這些問題，以及他們的答案對你有多重要。
綜合這些問答，OkCupid會創建一個讓用戶自定義的加權方程，算出和你最合適的對象。當你選擇在本地區搜索時，同樣的算法會對速配指數進行排序。OkCupid運用伺服器集群的強大運算能力，能根據200套問答模型對一萬人進行速配排序，在0～1秒之內給出結果。
他們必須這麼快，因為OkCupid的流量正在激增。每天晚上，成千上萬的問答資料流回他們的系統，每天新增用戶上千人。而他們的系統也越來越好用。
科因告訴我，未來你會看到人們帶著增強顯示器走來走去。他以一個晚上泡酒吧的男士為例：你一進去，相機立刻掃描了室內所有人的臉，並與OkCupid的資料庫進行比對。「設備告訴你，那邊那個女孩和你的速配率有88%。簡直美夢成真！」
每天晚上，成千上萬的問答資料流回他們的系統，每天新增用戶上千人
弗拉基米爾·納博科夫(Vladimir Nabokov)曾經評論說：「『現實』這個單詞，是少數幾個如果不加引號就沒有任何意義的詞。」科因的願景可能很快就成為我們的「現實」。
這一願景有著無窮的潛力：外科醫生永遠不會漏縫一針，士兵永遠不會誤傷平民，世界更加透明，信息更加密集。但同時也有危險：增強現實代表著樸素的經驗主義的終結以及我們眼中的這個世界的終結，取而代之的是一種更加變幻莫測、波譎雲詭的情況的開始——現實世界過濾泡出現了，並變得越來越難以逃脫。
02 失控
在個性化無處不在的未來，好處不勝枚舉。
智能設備的普及，從吸塵器、燈泡到相框，可以隨時隨地為我們創造百分百如你所願的環境。環境智能專家戴維·賴特表示，在不久的將來，我們甚至隨時都可以按照自己的偏好調整房間照明亮度。當房間裡不止一個人的時候，電燈可以自動平均所有人的偏好，給主人的偏好加權，計算出所有人都能接受的亮度。
支持增強認知功能的設備會幫助我們追蹤那些我們認為最重要的數據流。在某些情況下，比如有人受傷或者失火了，警報器會設法提升報警等級，直到引起我們注意，救人一命。
雖然基於腦波閱讀的增強認知應用距離大眾普及還為時尚早，但一些基本理念類似的產品已經問世。比如谷歌的谷歌郵箱推出了「優先收件箱」（Gmail Priority Inbox），會過濾電子郵件，突出顯示它認為更重要的郵件，就是根據增強認知的原理。
與此同時，增強現實過濾器提供了一種可能性，可以給現實加註釋和超連結，讓我們在充滿資訊的環境中提高工作效率，更快地吸收信息，做出更好的決策。
這是好的一面。但有所得必有所失。個性化提供了方便，但你需要把一些隱私和控制權交給機器。
隨著個人數據變得越來越有價值，我們在第一章中描述的行為數據市場可能會爆炸式增長。一家服裝公司如果認定，知道了你最喜歡的顏色會帶來5美元的銷售額增長，就能為這個數據定價，其他網站也會找理由來問你。（雖然OkCupid不願透露商業模式，但它靠的很可能是向廣告主提供數據，讓廣告主根據那數百個個人問答來鎖定用戶。）
某些時候，數據意味著風險
雖然這樣的數據採集許多是合法的，但有些不是。數據特別適合在地下市場交易，因為不需要證明來歷，也不用知道轉手記錄。賴特稱之為數據清洗(data laundering)，而且這一過程已經開始很長時間了：間諜軟體和垃圾郵件公司向中間商出售可疑的衍生數據，中間商把這些數據輸入資料庫，再賣給大公司，幫助其進行營銷活動。
此外，由於數據的轉手過程通常不透明，所以誰會代你做決策、決策的內容是什麼、決策的目的何在，這些問題都不清楚。當我們談論信息流時，這些問題很重要，但當這種力量要影響我們的感官時，就更重要了。
2000年，太陽計算機系統公司的聯合創始人比爾·喬伊在《連線》雜誌發表文章，題為《為什麼未來不需要我們》（Why the Future Doesnt Need Us）。他寫道：「隨著社會及當前的問題變得越來越複雜，隨著機器變得越來越聰明，人們會更多地讓機器代替他們做決定，僅僅因為這麼做有更好的結果。」
人為決策不如機器決策，這種情況或許很常見：機器驅動的系統確實有非凡的價值。這些技術承諾它們的所作所為能給我們更多自由，讓我們更能掌控世界，比如跟隨我們的奇思妙想和情緒變化的燈光，幫助我們排除閒雜瑣事干擾的螢幕和圖層，以此減少為生計而進行的繁忙工作。
諷刺的是，這種技術提供的自由和控制權，恰恰是通過剝奪我們的自由和控制權得來的。當遙控器上的眾多按鈕缺少「換台」這一基本功能，我們還可以接受，但是遙控器能控制我們的生活的話，事情就嚴重了。
平心而論，未來科技的效能應該和過去差不多，夠好，但不完美。肯定會有各種各樣的問題，也會有混亂和煩惱。未來肯定會有大故障讓我們反思當初創建整個系統是否值得。
我們也將承擔生活中的風險：本來設定協助人類的系統會轉而對我們造成威脅，就像嬰兒監視器本來是為了照顧寶寶，但如果被黑客入侵就會變成一個監控設備，讓家人暴露在威脅中。我們對個人環境的掌控力越大，一旦被奪走，我們任人宰割的可能性也越大。
有鑒於此，我們需要銘記這些系統的基本邏輯：人不能獨自創造世界。你生活在個人慾望和市場因素的均衡之中。雖然在許多情形下，這種均衡讓人生活得更健康、更幸福，但這種均衡也提供了讓一切商品化的機會，甚至包括我們的感官。你可以不去理會廣告，但如果廣告通過增強認知一直強化到讓你無法無視，甚至控制了你的注意力，那麼這件事簡直不堪設想。
由此我們不得不回到杰倫·拉尼爾的問題上來：這些技術為誰工作？如果以史為鑑，可知我們可能不是主要客戶。隨著科技越來越善於左右我們的注意力，我們需要密切關注它把我們的注意力引向何方。
文章來源: https://twgreatdaily.com/Ws84WnQBURTf-Dn5sHPJ.html