蒂姆尼特·格布鲁

蒂姆尼特·格布鲁（英语：Timnit Gebru；阿姆哈拉语和ትምኒት ገብሩ ；1982/1983）是一位出生于厄立垂亚的伊索匹亚电脑科家家 ，致力于人工智慧（AI）、算法偏见和资料探勘领域的工作。她是技术多元化的倡议者，也是从事人工智慧工作的黑人研究人员社群Black in AI的联合创办人。她是分布式人工智慧研究所（DAIR）的创办人。
2020年12月，格布鲁离开Google的事件引发了大众争议，她是Google人工智慧道德团队的联合技术负责人。格布鲁与五位共同领导人（其中四位也来自Google）撰写了一篇关于大型语言模型(LLM)风险的论文并且公开发表。Google管理层要求格布鲁撤回囵文或删除所有Google雇用的作者姓名，声称该篇论文忽略了最近的研究成果。格布鲁要求Google做出解释，并表示如果Google拒绝，她将与她的管理层并进行「最后一次的会谈」。Google立即终止了与她的聘雇关系，并表示接受她的辞职。格布鲁坚称，她并没有正式提出辞职，只是威胁要辞职。
格布鲁在人工智慧论理方面的专业知识受到各界广泛认可。她被《财富》杂志评选为全球50位最伟大领袖之一，被《自然》杂志评选2021年影乡科学的十大人物之一，并于2022年被《时代》杂志评选为最具影响力的人物之一。

**早年生活与教育**
格布鲁在伊索匹亚的阿迪斯阿贝巴长大。 她的父亲是一名拥有哲学博士学位的电机工程师，在她五岁时去世，她由身为经济学家的母亲抚养长大。 她的父母都来自厄立垂亚。格布鲁15岁那年，衣索比亚-厄利垂亚战争期间，她的部分家人被驱逐到厄立垂亚并被迫参加战争，因此她逃离了伊索匹亚。她最初被美国拒签，并短暂居住在爱尔兰，但最终在美国获得了政治庇护， Google Ousted Timnit Gebru她说这是一次“悲惨”的经历。格布鲁在麻塞诸塞州的萨默维尔定居，在那里上高中，她说，她很快就开始遭受种族歧视，尽管她的成绩很好，但有些老师拒绝让她参加某些大学先修课程。  
高中毕业之后，一次与警察的事件让格布鲁开始关注技术道德问题。她的一位朋友，一位黑人女性，在酒吧遭到袭击，格布鲁打电话报警。她说，她的朋友没有提交袭击报告，而是被逮捕并关进牢房。格布鲁称这是一个关键时刻，也是「系统性种族主义的赤裸裸的例子」。 
2001年，格布鲁被史丹佛大学录取。  在那里，她获得了电机工程学士和理学硕士学位 ，并于 2017 年获得了电脑视觉博士学位 。 格布鲁在攻读博士学位期间曾得到李飞飞的指导。 
在2008年美国总统大选期间，格布鲁为巴拉克·欧巴马拉票。 
格布鲁在2017年LDV Capital Vision Summit竞赛中展示了她的博士研究成果，电脑视觉科学家在会上向业界和风险投资家展示了他们的研究成果。格布鲁赢得了竞赛，并开始了与其他企业家和投资者的一系列合作。 
2016年和2018年，在攻读博士学位期间，格布鲁都带着Jelani Nelson的撰写程式活动 AddisCoder 回到了伊索匹亚。  
在攻读博士学位期间，格布鲁撰写了一篇从未发表的论文，阐述了她对人工智慧未来的担忧之处。她以自己与警察打交道的经历，以及ProPublica对预测性警务的调查为中心，论述了该领域缺乏多样性的危险，该调查揭示了机器学习中存在的人类偏见状况。在论文中，她严厉批评了「男孩俱乐部文化”，回顾了她在会议聚会上被醉酒的男性与会者性骚扰的经历，并批评了该领域名人的英雄崇拜。 

**事业**
格布鲁讨论了她的研究结果，即人们可以透过美国人驾驶的车辆类型来预测他们的投票模式，并且具有一定的可靠性

**2004–2013年：苹果公司软体开发**
格布鲁在史坦佛大学就读期间以实习生身份加入苹果公司，在公司硬体部门负责制作声音元件电路，并于次年获得全职职位。谈到她作为声音工程师的工作，她的上级告诉《连线》杂志，她「无所畏惧”，深受同事的喜爱。在苹果任职期间，格布鲁对于开发发软体产生了浓厚的兴趣，尤其是可以检测人形的电脑视觉软体。 她继续为第一代iPad开发信号处理演算法。 当时，她表示自己并没有老虑其潜在的监视用途，并表示「我只是觉得这在技术上很有趣。」 
在离开公司很久之后，在2021年夏天由苹果工程师Cher Scarlett领导的#AppleToo运动中，她曾为格布鲁提供咨询。    格布鲁透露，她经历了「太多令人震惊的事情」，并且「总是想知道他们是如何设法摆脱镁光灯的」。 她说，苹果早就应该承担责任了，并警告说他们不能再继续低调行事了。 格布鲁还批评了媒体对苹果和其他科技巨头的报导方式，称媒体帮助这些公司免受大众监督。 

**2013–2017年：史丹佛大学和微软的研究工作**
2013年，格布鲁加入史丹佛大学李飞飞的实验室。她对公开可及的图片进行了资料探资料探勘。 她对政府和非政府组织为收集社群资讯所花费的资金很感兴趣。 为了研究替代方案，格布鲁将深度学习与Google街景相结合，估算了美国社区的人口统计资料，表明可以透过对汽车的观察推断出投票模式、收入、种族和教育等社会经济属性。 如果皮卡车的数量超过轿车的数量，那么该社区就更有可能投票给共和党。 他们分析了美国200座人口最多的城市的1,500多万张图片。 该作品被媒体广泛报导，被BBC新闻、新闻周刊、经济学人和纽约时报转载。   
2015年，格布鲁参加了在加拿大蒙特娄举行的该领域的顶尖大会神经资讯处理系统（NIPS）。她指出，在3,700名参与者当中，她是仅有的几位黑人研究人员之一。 第二年，当她再次出席会议时，她统计了一下，发现出席会议的 8,500 名代表中只有 5 名黑人男性，而她是唯一的黑人女性。 格布鲁与同事Rediet Abebe共同创办了Black in AI ，这是一间致力于人工智慧的黑人研究人员社群。 
2017年夏天，格布鲁加入微软，担任人工智慧公平性、问责制、透明度和道德（FATE）实验室的博士后研究员。   2017 年，格布鲁在公平与透明会议上发表了讲话，麻省理工学院技术评论采访了她，探讨了人工智慧系统中存在的偏见以及如何透过增加人工智慧团队的多样性来解决这一问题。在接受杰娸·史诺（Jackie Snow）采访时，史诺问格布鲁：「缺乏多样性会如何扭曲人工智慧，特别是电脑视觉？「格布鲁指出，软体开发人员存在偏见。 在微软任职期间，格布鲁与人合作撰写了一篇主题名为《性别阴影》的研究论文 ，该论文后来成为麻省理工学院一项更广泛的专案名称，该专案由共同作者乔伊·布兰维尼 (Joy Buolamwini)带头。两人研究了脸部辨识软体，发现在某些特定的应用当中，黑人女性被识别的可能性比白人男性低 35%。 

**2018–2020年：Google的人工智慧伦理**
格布鲁于2018年加入Google，与玛格丽特·米切尔共同领导一个人工智慧伦理团队。她研究人工智慧的含议，希望提高技术程度造福社会的能力。 
2019年，格布鲁和其他人工智慧研究人员「签署了一封信，呼吁亚马逊停止向执法机构出售其脸部辨识技术，因为该技术对女性和有色人种存在偏见”，并引用了麻省理工学院研究人员进行的一项研究，该研究表明，亚马逊的脸部辨识系统在识别深色皮肤女性方面比任何其他科技公司的脸部识别软体都更困难。 在接受《纽约时报》采访时，格布鲁进一步表示，她认为脸部辨识太危险了，目前不适合用在执法和反恐目的。 

**离开 Google**
2020 年，格布鲁与5 位合著者撰写了一篇名称为《论随机鹦鹉的危险：语言模型会太大吗？🦜 》的论文。该篇论文研究了规模非常大的语言模型的风险，包括模型对环境的影响、财务成本、大型模型的不可预测性、大型语言模式 (LLM) 对某些族群表现出偏见的可能性、大型语言模式 (LLM) 无法理解其处理的语言，以及利用大型语言模型 (LLM) 散播假讯息。 
2020年12月，她与Google的聘雇关系终止，因为Google高层要求她要么在发表前撤回论文，要么从论文中删除所有Google员工的名字。 六位作者中，只有Emily M. Bender当时不在Google任职。 在一封寄给内部合作名单，长达六页的邮件当中，格布鲁描述了她如何在短时间内被召集参加会议，在会议中她被要求撤回论文，并要求得知做出该决议的每位人的姓名和理由，以及如何根据Google的喜好对论文进行修改的建议。她表示，如果没有得到这些资讯，她将在适当的时间后与Google确定聘雇关系结束日期。   Google没有满足她的要求，而是立即终止了与她的聘雇关系，并宣布接受了她的辞职。 Google人工智慧研究主管Jeff Dean在一封电子邮件中回复称，他们做出这项决定是因为这篇论文忽略了太多近期相关主题的研究成果，这些研究涉及如何舒缓其中描述的一些问题、环境影响以及这些模型的偏见。  
迪恩接着发布了关于格布鲁鲁离职的内部电子邮件以及他对此事的看法，为Google的研究论文流程辩护，称其「主要在解决雄心勃勃的问题，但要负责任得解决」。格布鲁和其他人指责这封最初的邮件以及迪恩随后典此事的沉默，催化并助长了紧随其后的骚扰。格布鲁在推特上遭到多个傀儡帐户和网路白目的连续骚扰，发表种族主议和淫秽言论。格布鲁和她的支持者声称，部分骚扰来自机器学习研究员佩德罗·多明戈斯 (Pedro Domingos)和商人迈克尔·利萨克 (Michael Lissack) ，他们称格布鲁的工作是“以科学为幌子的宣传”。  据称，利萨克还骚扰了米切尔、本德以及格布鲁前团队的其他同事。 Twitter于2021年2月1日暂时暂停了利萨克的帐户连线权限。 
格布鲁一直坚称自己是被解雇的，近2,700名Google员工和超过 4,300 名学者以及民间社会支持者签署了一封信，遣责Google解雇格布鲁的事情。  9名国会议员致信Google，要求其澄清蒂姆尼特·格布鲁离职的相关情况。 格布鲁的前团队成员要求将副总裁梅根·卡乔利亚 (Megan Kacholia) 从团队管理当中除名。 据称，卡乔利亚在未事先通知格布鲁的直属上司萨米·本吉奥 (Samy Bengio)的情况下解雇了格布鲁， 格布鲁的前团队要求卡乔利亚和迪恩为格布鲁受到的待遇道歉。 米切尔在推特上批评Google对待致力于消除人工智慧偏见和恶质言论员工的方式，包括涉嫌解雇格布鲁。米切尔后来因涉嫌泄露机密商对敏感文件和其他员工的私人资料而被解雇。  
在格布鲁离职情况遭到负面报导后，Google母公司Alphabet的执行长桑达尔·皮查伊 (Sundar Pichai ) 在推特上公开道歉，但没有说明格布鲁是被解雇还是辞职 ，并对此事展开了长达数月的调查。  审查结束后，迪恩宣布Google将改变「处理某些员工离职的方式」，但仍未澄清格布鲁离开Google是否是自愿的。 此外，迪恩表示，将对涉及「敏感」主题的研究论文的审查方式做出改变，并将每季向Alphabet董事会报告多元化、公平和包容性目标。格布鲁在推特上写道，她对Google「没有抱有更多期待」，并指出这些变化是由于她被解雇时提出的要求而产生的，但没有人为此承担担责任。 此后，两名Google员工辞去了公司职务。 
在她离职后，Google举办了一场论坛，讨论公司遭遇种族歧视的经历。员工向NBC新闻报导，论坛有一半时间都在诋毁格布鲁，他们认为公司是在拿她敢于直言的言论来杀鸡儆猴。随后，一名有治疗师执照，为Google的黑人员工举行了一次团体心理治理，员工表示，治疗师对格布鲁被解雇给他们造成的伤害不以为然。 

**自 2021年起：独立研究**
2021年11月，内森·卡明斯基金会与Open MIC合作，并得到Color of Change的支持， 提交了一份股东提案，呼吁进行「种族平等审计」，以分析 Alphabet 对「黑人、土着和有色人种(BIPOC) 社群」的「不利影响」。该提案还要求调查Google是否对提出歧视担忧的少数族裔员工进行了报复， 理由是格布鲁被解雇、她之前敦促Google聘雇更多 BIPOC，以及她对Google技术中种族偏见的研究。  此项提议是应科里·布克 (Cory Booker)带领的参议院民主党核心小组成员当年早些时候提出的一项非正式请求而提出的，他们也提到了格布鲁已与该公司及她的分道扬镳。 
2021年12月，路透社报导称，Google因公司对待黑人女性的方式而受到加州公平就业和住房部(DFEH) 的调查， 在此之前，现任和前任员工正式投投诉Google存在歧视和骚扰行为。  此前，格布鲁和其他BIPOC员工报告称，当他们向人力资源部讲述自己遭受种族歧视和性别歧视的经历时，人力资源部建议他们休病假，并透过公司的员工援助计划(EAP) 接受治疗。 格布鲁和其他人认为，她被解雇是报复行动，也是Google存在制度性种族主义的证据。 Google表示，公司「将继续专注于这项重要工作项目，并彻底调查任何问题，以确确保Google具有代表性和公平性。” 
2021年6月，格布鲁宣布她正在筹集资金，「以她在Google道德AI团队的工作经历和她在Black in AI的经验为蓝本，创办一间独立研究机构。」 
2021年12月2日，她成立了分散式人工智慧研究所 (DAIR)，预计将记录人工智慧对弱势族群的影响，重点关注非洲和美国的非洲移民。  该组织最初的专案之一是计划运用人工智慧分析南非城镇的卫星图像，以更好地了解种族隔离的遗留的问题。 
格布鲁和Émile P. Torres使用首字母缩略词TESCREAL来批评评他们所看到的一组重叠的未来主义哲学：超人类主义、外主义、奇点主义、宇宙主义、理性主义、有效利他主义和长期主义。格布鲁认为，这些理论都造就科技巨头内部的右倾影响，并将这些支持者比作「20 世纪的优生学家」，他们生产的一些恶质专案却被他们描绘成「造福人类」。 
格布鲁批评通用人工智慧（AGI）的研究根植于优生学。格布鲁指出，人们的注意力应该从AGI上转移开，尝试构建AGI本质上是一种不安全的作法。 

**奖项与认可**
格布鲁、Buolamwini和Inioluwa Deborah Raji凭借其研究突显了脸部辨识演算法当中的偏见严重问题，获得了VentureBeat 2019 年 AI 创新奖AI for Good类别。  格布鲁被《财富》杂志评为 2021 年全球 50 位最伟大大领导者之一。科学杂志《自然》列出了 2021 年在科学发展中发挥重要作用的十位科学家，格布鲁名列其中。 
格布鲁被《时代》杂志评为2022年最具影响力的人物之一。 
2023年，格布鲁被纽约卡内基公司授予“伟大移民奖”获奖者。 
2023年11月，她被列入BBC「巾帼百名」名单。 

**选择出版物**
 dead-url=no - Cite journal |last=Gebru |first=Timnit |last2=Krause |first2=Jonathan |last3=Wang |first3=Yilun |last4=Chen |first4=Duyun |last5=Deng |first5=Jia |last6=Aiden |first6=Erez Lieberman |last7=Fei-Fei |first7=Li |title=Using deep learning and Google Street View to estimate the demographic makeup of neighborhoods across the United States |journal=Proceedings of the National Academy of Sciences |language=en |date=12 December 2017 |volume=114 |issue=50 |page=13108–13113 |bibcode=2017PNAS..11413108G |doi=10.1073/pnas.1700035114 |issn=0027-8424 |pmc=5740675 |pmid=29183967 |doi-access=free- dead-url=no - Cite book|last=Gebru|first=Timnit|title=The Oxford Handbook of Ethics of AI|date=9 July 2020|pages=251–269|editor-last=Dubber|publisher=Oxford University Press|language=en|doi=10.1093/oxfordhb/9780190067397.013.16|isbn=978-0-19-006739-7|editor-first4=Frank- Cite journal |last=Gebru |first=Timnit |last2=Torres |first2=Émile P. |author-link2=Émile P. Torres |title=The TESCREAL bundle: Eugenics and the promise of utopia through artificial general intelligence |url=https://firstmonday.org/ojs/index.php/fm/article/view/13636 |journal=First Monday |date=April 1, 2024 |volume=29 |issue=4 |doi=10.5210/fm.v29i4.13636 |doi-access=free |access-date=2024-06-22 |archive-date=2024-07-01 |archive-url=https://web.archive.org/web/20240701070850/https://firstmonday.org/ojs/index.php/fm/article/view/13636 |dead-url=no 

**参见**
 程式码偏差- 克莱尔·斯塔普尔顿- 梅雷迪斯·惠特克- 张淑菲

**参考文献**

**外部连结**
 史丹佛大学 简介 date=20240926215748