高管

开除“黑命贵”的高管,谷歌AI老大Jeff Dean惹上事儿了

北京时间 12 月 4 日,谷歌“伦理人工智能团队”(Ethical AI Team)的技术联合负责人 Timnit Gebru 在个人推特上发布消息称:自己突然遭到公司的“邮件解雇”,原因似乎与她批评谷歌的政策相关。

  因批评公司政策,谷歌开除 AI 伦理团队高管

  Timnit Gebru 是谷歌顶尖的人工智能研究人员,致力于解决人工智能算法目前存在的偏见等问题,同时还从事数据挖掘领域的工作。她是著名的技术多样性倡导者,并联合创立了一个名为“Black in AI”的黑人研究人员社区。一直以来,她都在直言不讳地对科技公司对待黑人员工的方式提出批评。

  本周三,Timnit Gebru 发布了这样一条推文,表示自己突然被谷歌人工智能负责人 Jeff Dean 开除,个人公司账户也已经被公司切断:

  之后 Timnit Gebru 说,她收到了一封署名为 Megan 的解雇邮件,而这位“Megan”正是 Google Research 的工程副总裁 Megan Kacholia。据悉,Megan Kacholia 直接向 Jeff Dean 汇报工作。

  Timnit Gebru 表示,这封邮件中所称的领导层对她的离职进行了“快车道”处理,原因是在本周早些时候,她向谷歌深度学习人工智能研究团队“谷歌大脑”(Google Brain)的女性成员和“盟友”发送了一封电子邮件。

  经过查找,InfoQ 于 Platformer 网站发现了这封电子邮件的全文内容,并作简要翻译如下:

  如你所知,我已不再在这里写东西了。在我把我的故事发布在这里之后,我收到了各种明里暗里的攻击和骚扰(现在这些攻击和骚扰已经有所缓和)。

  然而最近,我在为 Katherine and Daphne 撰文时,令他们感到失望的是:在经过这些谈话之后,这个组织今年似乎雇用了 14%左右的女性。据我所知,Samy 雇佣了 39% 的女性员工,但事实上他并没有意愿主动去做这件事。

  我想说的是,我之所以停止撰文,是因为我觉得写这些没什么意义,也改变不了什么。我不知道 DEI OKRs 从何而来(也从来没有达标过),人们窃窃私语进行讨论,“我们需要更多指导”而不是“需要更多阻碍我们前进的绊脚石”,持续的斗争和被说教都是你要付出的代价,以上种种他们并不在意。因为没有人会出来问责。雇佣 39% 的女性对他们来说没什么好处:当你开始为这些弱势群体辩护时,你讨不到什么好处;你让领导感到厌烦时,他们在你的绩效考核上也不会给出好评。更多的文档或更多的谈话不可能达到任何效果。我们刚有一项黑人研究,所有人都表现出来了愤怒的情绪,但你知道愤怒之后,接下来发生了什么吗?大家都保持了沉默。

  你听说过有人通过特权人物和给 HR 的机密文件中得到了论文的“反馈”吗?你觉得这是正常流程吗?还是这种情况只发生在了像我这样的遭受了非人性化待遇的人身上?

  试想一下:你将一份论文发给了 30 多人,希望得到反馈,你在等待 PR & Policy 能给你反馈,这些人在你写文章之前已经告知了他们“我们正在考虑做这件事”,但是除了 PR & Policy 要求你更新外,(两个月以来)没有得到他们的任何反馈。一星期前,你开始休假,你看到了日程上有个突然出现的 4:30pm PST 的会议日程(该日程是是 2 点左右才通知你)。没人提前告知你会议内容是什么。随后,在那个会议上,你的主管经理告诉你“该问题已经决定下来了”,你需要下周(11 月 27 日)前撤回你的论文,这周几乎所有人都在外面休假(需要撤回论文的日期也没有经过任何会议流程商讨)。你甚至都不值得他们找你谈一次话,因为根本没人尊重你。

  然后,你不明所以,便想询问出更多的信息。有哪些具体的反馈?为什么是现在撤回?为什么不是之前呢?你能和任何人交流吗?你能明白到底发生了什么?要做些什么能改变这一状况呢?

  一段时间后,有人告知你,你的经理会给你阅读一份保密文件,你甚至都不知道这份文件是谁写的,不知道谁写了这个反馈,遵照了哪些流程,这些问题你一概不知。你写了一份详细的文件想弄清楚这些问题,但是这份文件被完全忽视掉了。你再一次被命令撤回论文,也没有说明任何缘由。

  然后你尝试和他们交流,告诉他们你无法接受撤回论文这一命令,然而,他们却开始做着相反的事情,他们想找到替罪羊。像这样压制边缘化的声音是与我们讨论过的 NAUWU 原则相悖的。我们一直都在倡导“构建负责人的 AI”,在这样的背景下做这些事,犹如在伤口上撒盐,起不到好的效果。我认为,在谷歌,唯一有意义的就是等级(制度)。我看到我的专业知识被忽视和。但现在,有另一层意思是,任何有特权的人都可以决定他们不希望你的论文在没有沟通的情况下发表。因此,你被挡在了研究社区的门外——你所做的工作还面临着其他的边缘化问题。

  我一直很好奇,为什么这些人能在做了这些事后,还回过头来追问我的 DEI 或工作之类的问题。这件事是去年发生在我身上的,我那时正陷入一起与谷歌的诉讼案件中,那起案件中,我和 Kat Herller 雇佣了女权主义律师威胁要起诉谷歌。

  所以,如果你想要改变一些事情,我建议你关注领导职责,并考虑如何从外部向他们施加压力。例如,我知道 Congressional Black Caucus 这个组织就在关注科技公司雇佣员工多样性的问题。写再多的文件,一遍遍反复诉说你的问题只会让你筋疲力尽,没人有会听。

  “把保护打在公屏上!”科学家发起声援 Gebru 活动

  Timnit Gebru 的经历在社交平台引发了热烈讨论,推特上有不少科学家纷纷转发相关新闻并表态支持她。其中包括一个由谷歌现任及前员工联合创立的“Google Walkout For Real Change”组织,他们已经在博客上发起了签名运动,以示对 Timnit Gebru 的支持:

  不仅如此,该组织还向谷歌高层提出了以下要求:

  要求 Jeff Dean、Megan Kacholia 以及参与审查 Gebru 博士论文决定的人员与道德的 AI 团队解释领导层单方面拒绝论文的原因及过程。

  对于 Google 领导层命令 Gebru 博士及其同事撤回对大规模语言模型的研究的决定,需要向包括 Google 用户和学术界同事在内的广大公众透明。这已经成为公众关注的问题,并且需要有公众责任来确保对 Google Research 的信任。

  要求 Google Research 对研究的完整性和学术自由做出明确的承诺,大力加强 Google Research Philosophy 中的承诺,并承诺通过提供明确的指导方针来审查 Google 的 AI 原则,以支持进一步研究的研究。如何尊重研究的完整性。

  值得一提的是,从 2018 年至今,这个组织已经在谷歌内部进行过多次大规模的抗议活动,并取得过很多场胜利,包括迫使谷歌放弃中国特供版搜索引擎,即“Dragonfly 计划”;对 安卓之父性骚扰事件 处理结果不满,而举行的大罢工等等。

  另外,就在本周三,美国国家劳资关系委员会(National Labor Relations Board)对谷歌提出指控称,称谷歌对其员工进行监视,阻止员工分享工作上的不满,并对其进行报复。此事也同样引起了该组织的关注。

  Jeff Dean 回应:起因并非歧视,她的论文未达标

  随着事件的发酵,作为另一当事人的 Jeff Dean 也选择了正面回应,向谷歌内部发出了一封邮件,内容如下:

  我相信你们很多人已经知道 Timnit Gebru 不再在谷歌工作了。发生这种事让大家十分困扰,尤其是 Gebru 参与了这样一个重要的研究课题,任何一个组织或公司,都在深刻地关注着负责人的人工智能的研究。

  由于社交媒体上有很多猜测和误解,所以我想分享下这件事发生的背景和经过,并向你保证,我们会在这里支持你继续你所从事的研究。

  Timnit 与四名谷歌同事以及一些需要通过我们审查的外部合作者共同撰写了一篇论文(就像所有外部提交的论文一样)。我们已经审批通过了几十篇 Timnit 和 / 或其他 Google 人撰写并发表的论文,但正如你所知,论文通常需要在内部审查过程中进行修改(或者甚至被认为不适合提交便会被否决)。不幸的是,这篇特别的论文只在截止日期前一天才被分享出来——实际上我们通常需要两周的时间进行审查——然后这篇论文没有等待审稿人的反馈,而是被批准提交后进行了提交。

  随后,一个跨职能团队对这篇论文进行了审查,这是我们常规流程的一个环节。作者被告知,这篇论文没有达到我们规定的发表的标准,并得到了关于原因的反馈。论文中忽略了太多相关的研究——例如,它谈论了大型模型对环境的影响,但却忽视了之后的研究显示出了模型能产生更高效率的研究。同样,它也提出了对语言模型偏见的担忧,但没有提到最近的一些研究正在试图缓解这些问题。我们承认,作者对 Megan 和我最终做出的决定非常失望,尤其是在他们已经提交论文的情况下。

  Timnit 回复了一封电子邮件,要求我们要满足她的一些条件,她才能继续在谷歌工作,包括披露我和 Megan 在论文审查和寻求反馈过程中接触和咨询过的每个人的身份。Timnit 写道,如果我们没有满足这些要求,她就会在一个截止日期前离开谷歌。我们接受并尊重她从谷歌辞职的决定。

  Timnit 是我们 Ethical AI 团队中是一位受人尊敬的研究员和管理者,Timnit 对我们正在做的工作产生了这样的看法,让我感到很遗憾。本周你们上百人收到了 Timnit 的邮件,她告知你们停止关键的 DEI 项目,这也让我感到很沮丧。请不要这么做。我理解人们对项目的进展感到失望,但是前面我们还有更重要的工作要做,我们需要继续努力。

  我知道我们都像 Timnit 一样,对让 AI 更加公平和包容这件事怀有激情和憧憬。毫无疑问,无论她在谷歌之后去到哪里,她都会做出伟大的工作,我期待着阅读她的论文,期待看到她所取得的成就。

  目前,Timnit Gebru 已在推特上表示正在寻找专业律师处理相关事宜,截至目前,谷歌现任 CEO Sundar Pichai 暂未对此事表态,事态将如何发展,我们将保持持续关注。

发表评论

电子邮件地址不会被公开。 必填项已用*标注