作者 | 陈大鑫、青暮
“ 我被开除了。”
就在今天不久前，谷歌AI道德伦理团队负责人Margaret Mitchell发推表示自己被谷歌炒了鱿鱼。
Mitchell 于2016年入职谷歌，目前是一名研究科学家，她不久前已经接受了谷歌长达五周的内部调查。
Margaret Mitchell 图源：venturebeat
Mitchell和Timnit Gebru曾在2018年共同领导谷歌AI伦理团队，最终创建了被认为是谷歌研究领域最多元化的部门之一。
在Mitchell接受调查前不久发给谷歌的一封电子邮件中曾表示道，谷歌解雇Timnit Gebru是“一个非常非常糟糕的决定”。
谷歌发言人关于Mitchell的一份声明中写道：“ 在对这位经理人的行为进行审查后，我们确认她有多起违反我们的行为准则以及我们的安全政策的行为，其中包括泄露商业敏感的机密文件和其他员工的私人数据。”
而其实在1月下旬的时候，谷歌就停了Margaret Mitchell 的账户，称其与公司外部人员共享了数千个内部文件。 据消息人士透露，Mitchell 一直在使用自动脚本查找显示在账户锁定之前对 Timnit Gebru 进行歧视对待的消息。
Mitchell之后在被问及该问题时表示拒绝置评，她形容自己的心情是“感到困惑和受到伤害”。
Mitchell也是最近成立的Alphabet工会的一员。Timnit Gebru此前曾提出，工会保护可能是AI研究人员保护自己免受报复的一种方式，就像她去年参与撰写的一篇研究论文遭到谷歌审查时遇到的那样。
1
Jeff Dean道歉、谷歌宣布改变多元化政策
今天早些时候，Jeff Dean就Timnit Gebru被解雇一事向黑人和女性员工表示道歉。
谷歌多样性、多元化政策的其他变化也随之在今天宣布，包括 将DEI目标与副总裁及以上级别员工的绩效评估挂钩。值得一提的是，在谷歌之前已有几家大公司已将多样性作为高管绩效和薪酬的考察因素之一，包括麦当劳公司和微软公司。
谷歌将开始根据员工多元化目标对高管进行分级，并增加人力资源人员，并承认在解雇Timnit Gebru这一事件中存在过错。
一位知情人士称，谷歌母公司Alphabet的首席执行官桑达尔·皮查伊（Sundar Pichai）在给员工的电子邮件中描述了这些变化，他要求不愿透露姓名讨论非公开信息。电子邮件中也包含了Jeff Dean的评论，他对自己处理Timnit Gebru的退出事件的方式感到遗憾。
Jeff Dean写道：“ 我知道我们可以而且应该更加敏感地处理这种情况。 为此，我很抱歉。” Jeff Dean说，谷歌对Gebru的举动伤害了一些女性和黑人雇员，并导致他们质疑自己对于公司的重要性。
但是Jeff Dean并没有在给员工的电子邮件中直接向Gebru道歉。
2
谷歌重整AI伦理团队
这周四，谷歌重组了其人工智能伦理团队：在谷歌副总裁Marian Croak的领导下，谷歌研究院组建了10个团队，其中包括AI伦理团队，Croak将直接向 Jeff Dean汇报。（谷歌AI伦理团队的多名成员表示，他们是通过媒体才知道了部门重组的消息。）
Marian Croak
Marian Croak在过去数十年的时间一直从事突破性技术的研究，在IP语音等领域拥有200多项专利。在过去的六年中，她一直担任谷歌副总裁，负责从站点可靠性工程到将公共Wi-Fi引入印度铁路的所有工作。
目前，Marian Croak正在进行一个新项目： 确保谷歌负责任地开发人工智能项目并产生积极影响。为此，Marian在谷歌研究院中创建了并将领导负责任人工智能（responsible AI）的新的专业知识中心。
在一段Youtobe视频信息中，Croak呼吁在解决人工智能可能伤害人类的问题时进行更多的“外交（灵活变通的)”对话。
Croak在该视频中承认，目前在道德伦理AI领域存在很多“分歧”，研究人员在原则上也存在分歧。“在过去的五年中，大多数机构在该领域仅制定了一些非常抽象的原则。在试图对这些原则的规范性定义进行标准化方面存在很多分歧和冲突。我们将使用谁的公平性或安全性的定义？该领域目前存在许多冲突，有时可能会两极分化。我想做的是让人们以一种比我们现在拥有的方式更外交（灵活变通）的方式进行对话，这样我们才能真正地推动这一领域的发展。” 她说道。
这已经不是Google首次求助于Croak了。在Timnit Gebru被免职几天后，Croak一方面主持了Jeff Dean和Kacholia的会议，另一方面又主持了研究人员和Black Googlers Network的会议。
而Timnit Gebru 在周四谈到Marian Croak时表示，“她是一位成就卓著的、具有开拓性的科学家，我很钦佩她，甚至信任她。但是看到她把Jeff Dean及他的下属对我和我的团队所做的事情合法化时，真是太令人痛心了。”
Marian Croak将监督AI伦理团队以及其他涉及公平性（ fairness）团队的员工，其中包括从事机器学习、计算机视觉系统、自然语言处理的人员以及设计公平性产品的人员，毫无疑问该团队已成为严格审查的重点对象。 另外据一位知情人士消息，Megan Kacholia在解雇Gebru后引起了很多员工批评，将不再负责监督这些研究人员。
3
完整事件回顾
去年12月初，谷歌AI道德伦理团队联合负责人Timnit Gebru发推表示她被谷歌AI负责人Jeff Dean解雇。
Timnit Gebru
根据Reddit上曝出的 TimnitGebru与 JeffDean的邮件详情，事件的起因是Gebru想要发表一篇论文，但被谷歌内部否决、要求撤稿，Gebru尝试沟通无果，控诉谷歌不尊重边缘群体的人权。事件传出后，Timnit得到了多方支持。
关于涉事论文，Jeff Dean曾在发给谷歌内部员工的邮件中表示，论文提交时间过晚，而且Timnit在论文没有经过内部审查的情况下就擅自发表。Jeff Dean也指出，论文内容本身也存在问题，“它谈到了大型AI模型的负面影响， 而没有提及已有的有效解决方案。”
然而，Jeff Dean回应的这两点很快遭到反驳，Timnit团队成员指出：提交至“谷歌审核流程”的论文，接近一半的论文是在DDL前一天甚至更短的时间进行提交的。谷歌的前PR William Fitzgerald表示，研究人员（没有收到反馈意见）直接发表论文是很常见的事情，“我们从未惩罚那些没有走正确审核程序的人。”
在当时，许多AI伦理领域的领军人物都认为，Timnit被辞退，是因为她所参与撰写的研究论文触犯到了谷歌的利益底线。根据BBC的报道，有超过4500位科研人员，包括谷歌、微软、Apple、Facebook、亚马逊、Netflix、DeepMind等大企业的研究人员与英国学者，在支持Timnit的公开信上签名，要求谷歌公开解释阻止Timnit发表论文的原因。
Timnit等人合著的研究论文集中攻击了大规模语言模型（如BERT）的消极影响，而BERT模型是谷歌的王牌AI产品之一。
这篇论文名为《On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?》。
据介绍，这篇论文基于其他研究人员的工作，参考了128篇学术文献，展示了自然语言处理的发展历史与大型语言模型的四大危害，呼吁对语言模型进行更深入的研究。
这四大危害包括：
1、训练大型AI模型会消耗大量能源；（训练一个BERT模型大约会产生1,438磅二氧化碳，相当于在纽约与旧金山之间的一次往返航班所产生的碳排放量。）
2、大型语言模型是基于大量文本进行训练，无法避免偏见的存在；
3、大型语言模型无法理解语言，但公司由于利益关系会加大这方面的投入，从而带来机会成本；
4、大型语言模型存在被用于欺骗的风险。
后来，谷歌CEO 皮查伊在对谷歌员工的一封内部邮件中，对事件引发的对谷歌的质疑表示歉意，同时表示要重新审视公司制度。
然而，Timnit在接受Venturebeat采访时表示， 皮查伊在内部邮件中的表述将她刻画成了一个“ 愤怒的黑人女性”。她对道歉的内容没有信心，认为Pichai只是在缓和事态。此外，谷歌在不经过讨论就把论文毙掉非常不合理，而解雇事件的背后，其实是利益冲突，与学术研究无关。
在圣诞节前夕，Timnit的同事Alex Hanna代表谷歌AI伦理研究部门将一封联名信交给了Pichai和其他一些谷歌领导。联名信提出了公司结构性改革、Jeff Dean道歉、Timnit Gebru回归、管理层进行“种族素养培训”等要求。
2021年1月初，400多名谷歌内部员工成立工会Alphabet Workers Union，以期能强有力地为少数族裔群体发声。在此消息公布之前几日，Timnit Gebru的谷歌前同事、谷歌AI伦理部门的高级研究员Alex Hanna和另一名曾经帮助领导谷歌劳工组织的NYU教授Meredith Whittaker在Wired上发表的一篇文章中透露了谷歌工会的消息，并指出Timnit Gebru被解雇的事件暴露了人工智能行业存在的危机，然后他们提出了三个建议。
他们认为，该事件暴露了企业资助的研究存在的潜在危机，即这类研究永远不能脱离权力的现实，也不能脱离收入和资本的流动。此外，由于人工智能领域学术界和工业界的频繁交流，这种影响还会向学术界延伸（学术界的研究一直受到大型科技企业的资金支持）。他们提出的三个建议包括：成立工会、为技术员工提供保护和资金以独立于公司进行研究、呼吁政府加强对人工智能的监管。
1月下旬，谷歌又对另一位AI道德伦理团队的高管采取了措施，关停该团队联席主管 Margaret Mitchell 的账户，称其与公司外部人员共享了数千个内部文件。据消息人士透露，Mitchell 一直在使用自动脚本查找显示在账户锁定之前对 Timnit Gebru 进行歧视对待的消息。
参考链接：
https://mp.weixin.qq.com/s/8iLedvZCUyoLRhJ7tNVCig
https://mp.weixin.qq.com/s/s5YZOnvJ-n_IDigAM_nWpg
https://www.bloomberg.com/news/articles/2021-02-19/google-to-change-policies-after-review-of-ai-researcher-s-exit
https://venturebeat.com/2021/02/19/google-fires-ethical-ai-lead-margaret-mitchell/
https://blog.google/technology/ai/marian-croak-responsible-ai/
https://www.bloomberg.com/news/articles/2021-02-18/google-to-reorganize-ai-teams-in-wake-of-researcher-s-departure
AI科技评论本次联合【博文视点】为大家带来12本 《深度学习500问：AI工程师面试宝典》正版新书。
在2月18日文章《 《深度学习500问》正式出版！GitHub星标数超4.2万的火爆之作 | 赠书 〉留言区留言，欢迎大家畅所欲言，谈一谈你 对本书的看法和期待或者 在学习深度学习时遇到的困难。
AI 科技评论将会在留言区选出 12名读者，每人送出 《深度学习500问：AI工程师面试宝典》一本。
3. 本活动时间为2021年2月18日 - 2020年2月25日（23:00），活动推送时间内仅允许赠书福利中奖一次。