作者 | 陳大鑫、青暮
「 我被開除了。」
就在今天不久前，谷歌AI道德倫理團隊負責人Margaret Mitchell發推表示自己被谷歌炒了魷魚。
Mitchell 於2016年入職谷歌，目前是一名研究科學家，她不久前已經接受了谷歌長達五周的內部調查。
Margaret Mitchell 圖源：venturebeat
Mitchell和Timnit Gebru曾在2018年共同領導谷歌AI倫理團隊，最終創建了被認為是谷歌研究領域最多元化的部門之一。
在Mitchell接受調查前不久發給谷歌的一封電子郵件中曾表示道，谷歌解僱Timnit Gebru是「一個非常非常糟糕的決定」。
谷歌發言人關於Mitchell的一份聲明中寫道：「 在對這位經理人的行為進行審查後，我們確認她有多起違反我們的行為準則以及我們的安全政策的行為，其中包括泄露商業敏感的機密文件和其他員工的私人數據。」
而其實在1月下旬的時候，谷歌就停了Margaret Mitchell 的帳戶，稱其與公司外部人員共享了數千個內部文件。 據消息人士透露，Mitchell 一直在使用自動腳本查找顯示在帳戶鎖定之前對 Timnit Gebru 進行歧視對待的消息。
Mitchell之後在被問及該問題時表示拒絕置評，她形容自己的心情是「感到困惑和受到傷害」。
Mitchell也是最近成立的Alphabet工會的一員。Timnit Gebru此前曾提出，工會保護可能是AI研究人員保護自己免受報復的一種方式，就像她去年參與撰寫的一篇研究論文遭到谷歌審查時遇到的那樣。
1
Jeff Dean道歉、谷歌宣布改變多元化政策
今天早些時候，Jeff Dean就Timnit Gebru被解僱一事向黑人和女性員工表示道歉。
谷歌多樣性、多元化政策的其他變化也隨之在今天宣布，包括 將DEI目標與副總裁及以上級別員工的績效評估掛鉤。值得一提的是，在谷歌之前已有幾家大公司已將多樣性作為高管績效和薪酬的考察因素之一，包括麥當勞公司和微軟公司。
谷歌將開始根據員工多元化目標對高管進行分級，並增加人力資源人員，並承認在解僱Timnit Gebru這一事件中存在過錯。
一位知情人士稱，谷歌母公司Alphabet的執行長桑達爾·皮查伊（Sundar Pichai）在給員工的電子郵件中描述了這些變化，他要求不願透露姓名討論非公開信息。電子郵件中也包含了Jeff Dean的評論，他對自己處理Timnit Gebru的退出事件的方式感到遺憾。
Jeff Dean寫道：「 我知道我們可以而且應該更加敏感地處理這種情況。 為此，我很抱歉。」 Jeff Dean說，谷歌對Gebru的舉動傷害了一些女性和黑人雇員，並導致他們質疑自己對於公司的重要性。
但是Jeff Dean並沒有在給員工的電子郵件中直接向Gebru道歉。
2
谷歌重整AI倫理團隊
這周四，谷歌重組了其人工智慧倫理團隊：在谷歌副總裁Marian Croak的領導下，谷歌研究院組建了10個團隊，其中包括AI倫理團隊，Croak將直接向 Jeff Dean彙報。（谷歌AI倫理團隊的多名成員表示，他們是通過媒體才知道了部門重組的消息。）
Marian Croak
Marian Croak在過去數十年的時間一直從事突破性技術的研究，在IP語音等領域擁有200多項專利。在過去的六年中，她一直擔任谷歌副總裁，負責從站點可靠性工程到將公共Wi-Fi引入印度鐵路的所有工作。
目前，Marian Croak正在進行一個新項目： 確保谷歌負責任地開發人工智慧項目並產生積極影響。為此，Marian在谷歌研究院中創建了並將領導負責任人工智慧（responsible AI）的新的專業知識中心。
在一段Youtobe視頻信息中，Croak呼籲在解決人工智慧可能傷害人類的問題時進行更多的「外交（靈活變通的)」對話。
Croak在該視頻中承認，目前在道德倫理AI領域存在很多「分歧」，研究人員在原則上也存在分歧。「在過去的五年中，大多數機構在該領域僅制定了一些非常抽象的原則。在試圖對這些原則的規範性定義進行標準化方面存在很多分歧和衝突。我們將使用誰的公平性或安全性的定義？該領域目前存在許多衝突，有時可能會兩極分化。我想做的是讓人們以一種比我們現在擁有的方式更外交（靈活變通）的方式進行對話，這樣我們才能真正地推動這一領域的發展。」 她說道。
這已經不是Google首次求助於Croak了。在Timnit Gebru被免職幾天後，Croak一方面主持了Jeff Dean和Kacholia的會議，另一方面又主持了研究人員和Black Googlers Network的會議。
而Timnit Gebru 在周四談到Marian Croak時表示，「她是一位成就卓著的、具有開拓性的科學家，我很欽佩她，甚至信任她。但是看到她把Jeff Dean及他的下屬對我和我的團隊所做的事情合法化時，真是太令人痛心了。」
Marian Croak將監督AI倫理團隊以及其他涉及公平性（ fairness）團隊的員工，其中包括從事機器學習、計算機視覺系統、自然語言處理的人員以及設計公平性產品的人員，毫無疑問該團隊已成為嚴格審查的重點對象。 另外據一位知情人士消息，Megan Kacholia在解僱Gebru後引起了很多員工批評，將不再負責監督這些研究人員。
3
完整事件回顧
去年12月初，谷歌AI道德倫理團隊聯合負責人Timnit Gebru發推表示她被谷歌AI負責人Jeff Dean解僱。
Timnit Gebru
根據Reddit上曝出的 TimnitGebru與 JeffDean的郵件詳情，事件的起因是Gebru想要發表一篇論文，但被谷歌內部否決、要求撤稿，Gebru嘗試溝通無果，控訴谷歌不尊重邊緣群體的人權。事件傳出後，Timnit得到了多方支持。
關於涉事論文，Jeff Dean曾在發給谷歌內部員工的郵件中表示，論文提交時間過晚，而且Timnit在論文沒有經過內部審查的情況下就擅自發表。Jeff Dean也指出，論文內容本身也存在問題，「它談到了大型AI模型的負面影響， 而沒有提及已有的有效解決方案。」
然而，Jeff Dean回應的這兩點很快遭到反駁，Timnit團隊成員指出：提交至「谷歌審核流程」的論文，接近一半的論文是在DDL前一天甚至更短的時間進行提交的。谷歌的前PR William Fitzgerald表示，研究人員（沒有收到反饋意見）直接發表論文是很常見的事情，「我們從未懲罰那些沒有走正確審核程序的人。」
在當時，許多AI倫理領域的領軍人物都認為，Timnit被辭退，是因為她所參與撰寫的研究論文觸犯到了谷歌的利益底線。根據BBC的報道，有超過4500位科研人員，包括谷歌、微軟、Apple、Facebook、亞馬遜、Netflix、DeepMind等大企業的研究人員與英國學者，在支持Timnit的公開信上簽名，要求谷歌公開解釋阻止Timnit發表論文的原因。
Timnit等人合著的研究論文集中攻擊了大規模語言模型（如BERT）的消極影響，而BERT模型是谷歌的王牌AI產品之一。
這篇論文名為《On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?》。
據介紹，這篇論文基於其他研究人員的工作，參考了128篇學術文獻，展示了自然語言處理的發展歷史與大型語言模型的四大危害，呼籲對語言模型進行更深入的研究。
這四大危害包括：
1、訓練大型AI模型會消耗大量能源；（訓練一個BERT模型大約會產生1,438磅二氧化碳，相當於在紐約與舊金山之間的一次往返航班所產生的碳排放量。）
2、大型語言模型是基於大量文本進行訓練，無法避免偏見的存在；
3、大型語言模型無法理解語言，但公司由於利益關係會加大這方面的投入，從而帶來機會成本；
4、大型語言模型存在被用於欺騙的風險。
後來，谷歌CEO 皮查伊在對谷歌員工的一封內部郵件中，對事件引發的對谷歌的質疑表示歉意，同時表示要重新審視公司制度。
然而，Timnit在接受Venturebeat採訪時表示， 皮查伊在內部郵件中的表述將她刻畫成了一個「 憤怒的黑人女性」。她對道歉的內容沒有信心，認為Pichai只是在緩和事態。此外，谷歌在不經過討論就把論文斃掉非常不合理，而解僱事件的背後，其實是利益衝突，與學術研究無關。
在聖誕節前夕，Timnit的同事Alex Hanna代表谷歌AI倫理研究部門將一封聯名信交給了Pichai和其他一些谷歌領導。聯名信提出了公司結構性改革、Jeff Dean道歉、Timnit Gebru回歸、管理層進行「種族素養培訓」等要求。
2021年1月初，400多名谷歌內部員工成立工會Alphabet Workers Union，以期能強有力地為少數族裔群體發聲。在此消息公布之前幾日，Timnit Gebru的谷歌前同事、谷歌AI倫理部門的高級研究員Alex Hanna和另一名曾經幫助領導谷歌勞工組織的NYU教授Meredith Whittaker在Wired上發表的一篇文章中透露了谷歌工會的消息，並指出Timnit Gebru被解僱的事件暴露了人工智慧行業存在的危機，然後他們提出了三個建議。
他們認為，該事件暴露了企業資助的研究存在的潛在危機，即這類研究永遠不能脫離權力的現實，也不能脫離收入和資本的流動。此外，由於人工智慧領域學術界和工業界的頻繁交流，這種影響還會向學術界延伸（學術界的研究一直受到大型科技企業的資金支持）。他們提出的三個建議包括：成立工會、為技術員工提供保護和資金以獨立於公司進行研究、呼籲政府加強對人工智慧的監管。
1月下旬，谷歌又對另一位AI道德倫理團隊的高管採取了措施，關停該團隊聯席主管 Margaret Mitchell 的帳戶，稱其與公司外部人員共享了數千個內部文件。據消息人士透露，Mitchell 一直在使用自動腳本查找顯示在帳戶鎖定之前對 Timnit Gebru 進行歧視對待的消息。
參考連結：
https://mp.weixin.qq.com/s/8iLedvZCUyoLRhJ7tNVCig
https://mp.weixin.qq.com/s/s5YZOnvJ-n_IDigAM_nWpg
https://www.bloomberg.com/news/articles/2021-02-19/google-to-change-policies-after-review-of-ai-researcher-s-exit
https://venturebeat.com/2021/02/19/google-fires-ethical-ai-lead-margaret-mitchell/
https://blog.google/technology/ai/marian-croak-responsible-ai/
https://www.bloomberg.com/news/articles/2021-02-18/google-to-reorganize-ai-teams-in-wake-of-researcher-s-departure
AI科技評論本次聯合【博文視點】為大家帶來12本 《深度學習500問：AI工程師面試寶典》正版新書。
在2月18日文章《 《深度學習500問》正式出版！GitHub星標數超4.2萬的火爆之作 | 贈書 〉留言區留言，歡迎大家暢所欲言，談一談你 對本書的看法和期待或者 在學習深度學習時遇到的困難。
AI 科技評論將會在留言區選出 12名讀者，每人送出 《深度學習500問：AI工程師面試寶典》一本。
3. 本活動時間為2021年2月18日 - 2020年2月25日（23:00），活動推送時間內僅允許贈書福利中獎一次。
文章來源: https://twgreatdaily.com/RmR_wHcB9EJ7ZLmJdXN3.html