作者 | 陳彩嫻、蔣寶尚
編輯 | 青暮
當地時間12月3日晚，谷歌Ethical AI團隊聯合負責人Timnit Gebru發推表示她被谷歌AI負責人Jeff Dean解僱。
解僱原因是：她給谷歌大腦（Google Brain）同事發了一封郵件，郵件內容涉及AI倫理，批評了谷歌不負責任的多樣性、公平性和包容性AI運作。此事一出，在各大資訊平台與Reddit上均引起了熱議。
Gebru是一名著名的AI研究員，對人臉識別技術進行過深入研究，並曾就科技行業缺乏多樣性發表過言論， 與LeCun發生過爭執 ，在AI圈內小有名氣。
根據Reddit上曝出的Gebru與Dean的郵件詳情，事件的起因是Gebru想要發表論文，但被谷歌內部否決、要求撤稿，Gebru嘗試溝通無果，控訴谷歌不尊重邊緣群體的人權。
Gebru說她沒有辭職，但她的經理給Gebru的直接下屬發了郵件，說她「接受了我的辭職」。在那之後，Gebru說她的公司郵箱帳戶已經被關閉了。
詳情是否真如Gebru所言？隨著越來越多谷歌前員工加入維權，該事件或將引起更大討論。
1
郵件內容詳情
在Reddit上，有人po出了Gebru的郵件內容。
reddit地址：https://www.reddit.com/r/MachineLearning/comments/k6467v/n_the_email_that_got_ethical_ai_researcher_timnit/
郵件談到：
Gebru近日在寫一份此前由Katherine和Daphne撰寫的論文。她們在寫論文時，發現一個令人失望的現象：谷歌在過去的一年內招聘了大約14%的女性員工。Gebru又進一步了解到，Samy增聘了39%的、能力並不夠出色的員工。
基於這個數據的懸殊，Gebru建議谷歌女性：停止手上的工作，因為她們的工作並不為人重視。谷歌的內部激勵機制DEI（Diversity，Equity and Inclusion；多樣性、平等與包容）與OKR（Objectives and Key Results，目標與關鍵結果）等等似乎根本不重要。
Gebru控訴道：一旦你開始推廣代表性不足群體時，你的生活就會開始變得越糟糕；當你的領導在考核過程中並不想給你好評時，你就會開始沮喪。再多的申訴文件與溝通都於事無補。
在近期的一次關於黑人的調查中，Gebru敏銳地發現了該群體之間瀰漫的憤怒情緒，但他們只能如往常般保持沉默。
隨即，Gebru談到她撰寫的論文被否定的過程，這也是事件的起源。
Gebru介紹，她將論文發送給30多位研究人員，以收集反饋，但在兩個月里都沒有收到PR & Policy的反饋。在外出度假的前一周，一天下午4點30分，她在日曆的PST上看到一個大約下午兩點彈出來的會談通知，沒有說明會談的理由。
在會談中，她的經理通知她「內部已經決定」讓她在下周（11月27日）之前必須撤回論文。那一周，大約所有人都已經外出度假，且11月27日與會議流程沒有任何關聯。「你不是一個配擁有對話權利的人，因為你的人權在谷歌並沒有得到尊重。」Gebru寫道。
接著，Gebru追問原因以及否決論文的人物，收到的回覆是：根據保密協議，她無權知道具體否決的人物。Gebru再次追問詳情，但被完全否決，並且再次接到論文被禁止發布的命令。Gebru嘗試對話，了解為什麼論文不通過，但沒有回應。
「任何特權人員都可以在沒有進行任何溝通的情況下禁止你發表論文。」Gebru在郵件中控訴。
郵件末尾，Gebru呼籲谷歌內部的女性群體向領導層問責，並思考如何向他們施加外部壓力，比如寫信給Congressional Black Caucus等組織。
2
Jeff Dean回應
隨即，Jeff Dean給所有谷歌員工寫了一封郵件回應此事（截圖自Reddit）：
郵件的大致內容翻譯如下：
Timnit Gebru已經不再是谷歌的員工。
Timnit與4位谷歌內部員工及多位外部合作者一起寫了一篇論文。由於是外部提交，因此該論文需要走審核流程，這是谷歌的慣例。Timnit的許多論文獲得了谷歌高層的讚許，但正常來說，論文在內部審核過程中一般需要進行修改，或在審核過程中被判為不適合提交。
但不幸的是，這篇論文在提交ddl的前一天才交到內部評審員處，而他們一般是要求ddl前至少兩周提交。此外，論文提交審核並非等待反饋意見，而是由評審員決定是否可以提交。
經過內部評審，Timnit的這篇論文被判定為沒有達到要求，不合格的原因是：這篇論文忽略了太多相關研究，比如該論文討論大模型對環境的影響，卻忽略了其他研究顯示的大模型的更優秀的性能。論文挑起對語言模型偏見性的憂慮，卻沒有考慮近期減輕環境負擔的研究。
誠然，作者對我和Megan做出的決定非常失望，特別的，他們還是提交了論文。隨後，Timnit也回復了一封郵件，郵件內容是讓我提交一些信息，包括論文評審內容、每一個人的身份以及其他確切的反饋。
Timnit說，如果我不滿足她的要求，她就會離開谷歌，並停止相關工作。我們接受並尊重她的決定。
考慮到Timnit是一名令人尊敬的研究人員，並且是我們AI倫理團隊的負責人，我對此很鬧心。因為，她竟然「這樣評價」我們的工作。
我很難過，在本周，你們當中可能有幾百人已經收到了Timnit的郵件，並告訴你們停止一些關鍵的 DEI項目（critical DEI programs）。
請不要停止工作，我理解大家對進展速度的失望，但我們有重要工作要做，我們需要堅持。
我們都真誠的認同Timnit的理念，她也想讓AI變得更加公平和包容。她離開谷歌之後，無論她到哪裡任職，都會非常優秀。我也會時刻關注她的論文以及成就。
3
「谷歌錯了」：支持Gebru
在Gebru周三表示自己被解僱後，部分谷歌前員工開始在推特上發言支持Gebru。
就在幾個小時前，一位名為「Google walkout for real change」的medium博主發了一篇支持Timnit的文章。文章提了三點要求：
1.要求Jeff Dean和 Megan Kacholia以及其他參與審閱論文的人員解釋拒絕發表的原因；
2.要求更多的公眾參與，需要社會問責，確保能夠未來谷歌的研究還值得信任；
3.要求谷歌對誠信研究和學術自由做出承諾，支持能夠促進實施谷歌人工智慧原則的研究。
除了這些要求，這篇文章還號召了學界人士和谷歌研究人員進行簽名支持。據文章中暴露出來的信息，已經有375名谷歌員工和506名外部人士簽下了名字支持Timnit。
此外，與Gebru的事件發生同時，谷歌已經因其處理勞工問題的方式而受到強烈批評。就在Gebru發推文的同一天，谷歌被美國勞工委員會指控對組織抗議谷歌的工人進行報復。在一份來自國家勞動關係委員會的投訴中，聯邦機構稱谷歌調查、審訊和解僱激進員工的行為違反了美國勞動法。
4
谷歌AI倫理：員工驅動
2018年6月8日，谷歌CEO Sundar Pichai 發表了署名題為《AI at Google：our principles》的文章，列出7大指導原則，闡述谷歌在研發和使用AI時將遵循的目標。Pichai明確列出了谷歌「不會追求的AI應用」，包括可能造成危害的技術、武器或其他以人身傷害為主要目的的技術、違反國際公約收集或使用信息的技術，以及違反人權和國際法的技術。
Pichai說：「這些不是理論概念，而是具體的標準，將積極主導我們的研究和產品開發，並會影響我們的業務決策」。
殊不知，當時七條「道德原則」提出的背景，正是谷歌迫於三千多位員工抗議的壓力，決定在2019年約滿後退出與軍方合作的無人機項目。
為了踐行7原則，以及完善相關的內部治理結構和流程，包括人臉識別、機器學習的公平性以及為相關工作提供多樣化的觀點等都是該委員會聚焦的事情。2019年3月份，谷歌曾成立了專門的外部專家團隊，負責審查與人工智慧（AI）相關的棘手倫理問題。
然而，在員工對該委員會所招募成員表示不滿之後，谷歌解散了這個新團隊。當時谷歌員工不滿的原因：委員會的人選。
不滿的人選之一是：Kay Coles James。據了解， James為保守派智囊團傳統基金會的總裁，曾反對同性戀和變形人群的平權法。James公開發表過反LGBT的言論。她認為跨性別 (Transgender) 的女性，就該被稱作「生理上的男性」，不該讓跨性別群體爭取更多的權益。
人選之二是Dyan Gibbens，一家曾經為美國空軍提供無人機AI成像服務的公司CEO。顯然，員工認為Gibbens公司本身的業務就違反了谷歌7原則。
因此，先是受邀的人工智慧領域專家離開委員會，緊接著又有大批員工請願裁掉另一名委員會成員，本來聲稱打造更加透明化的谷歌的委員會，在4月4日解散，只存活了9天。從員工聯名抗議那天算起，3天便結束了一場戰鬥。看的出來勝利的依然屬於員工。
除此之外，2018年11月，因為不滿公司對安卓之父Andy Rubin涉嫌性侵女下屬的事件保持沉默，全球各地有超過20,000名谷歌員工參與了罷工。
員工認為，公司處理這類事件的流程嚴重不透明，要求管理層公開性騷擾透明度報告，建立一套清晰、標準、全球通用的性騷擾舉報機制，並且保護舉報者的隱私和安全。
終於，谷歌在2019年2月宣布，取消了針對性騷擾和性侵的強制仲裁政策。從此，谷歌員工有了起訴公司的權利。
從AI倫理到女性權力，谷歌的員工一直」走「在谷歌管理層的前面。今天這件事情，如果谷歌沒有一個滿意的交代，相信大規模的抗議遊行也正在路上。
參考連結：
https://techcrunch.com/2020/12/03/googles-co-lead-of-ethical-ai-team-says-she-was-fired-for-sending-an-email/
https://www.reddit.com/r/MachineLearning/comments/k6467v/n_the_email_that_got_ethical_ai_researcher_timnit/
點擊「閱讀原文」，進入直播間預約，避免錯過精彩分享！
由於微信公眾號試行亂序推送，您可能不再能準時收到AI科技評論的推送。為了第一時間收到AI科技評論的報道， 請將「 AI科技評論」設為 星標帳號，以及常點文末右下角的「在看」。