蒂姆尼特格布魯（英語：Timnit Gebru；阿姆哈拉語和 ；19821983）是一位出生於厄立垂亞的伊索匹亞電腦科家家 ，致力於人工智慧（AI）、演算法偏見和資料探勘領域的工作。她是技術多元化的倡議者，也是從事人工智慧工作的黑人研究人員社群 Black in AI 的聯合創辦人。她是分散式人工智慧研究所（DAIR）的創辦人。 2020 年 12 月，格布魯離開 Google 的事件引發了大眾爭議，她是 Google 人工智慧道德團隊的聯合技術負責人。格布魯與五位共同領導人（其中四位也來自 Google）撰寫了一篇關於大型語言模型 LLM 風險的論文並且公開發表。Google 管理層要求格布魯撤回圇文或刪除所有 Google 僱用的作者姓名，聲稱該篇論文忽略了最近的研究成果。格布魯要求 Google 做出解釋，並表示如果 Google 拒絕，她將與她的管理層並進行「最後一次的會談」。Google 立即終止了與她的聘僱關係，並表示接受她的辭職。格布魯堅稱，她並沒有正式提出辭職，只是威脅要辭職。 格布魯在人工智慧論理方面的專業知識受到各界廣泛認可。她被《財富》雜誌評選為全球 50 位最偉大領袖之一，被《自然》雜誌評選 2021 年影鄉科學的十大人物之一，並於 2022 年被《時代》雜誌評選為最具影響力的人物之一。 早年生活與教育 格布魯在伊索匹亞的阿迪斯阿貝巴長大。 她的父親是一名擁有哲學博士學位的電機工程師，在她五歲時去世，她由身為經濟學家的母親撫養長大。 她的父母都來自厄立垂亞。格布魯 15 歲那年，衣索比亞 厄利垂亞戰爭期間，她的部分家人被驅逐到厄立垂亞並被迫參加戰爭，因此她逃離了伊索匹亞。她最初被美國拒簽，並短暫居住在愛爾蘭，但最終在美國獲得了政治庇護， 她說這是一次 悲慘 的經歷。格布魯在麻塞諸塞州的薩默維爾定居，在那裡上高中，她說，她很快就開始遭受種族歧視，儘管她的成績很好，但有些老師拒絕讓她參加某些大學先修課程。 高中畢業之後，一次與警察的事件讓格布魯開始關注技術道德問題。她的一位朋友，一位黑人女性，在酒吧遭到襲擊，格布魯打電話報警。她說，她的朋友沒有提交襲擊報告，而是被逮捕並關進牢房。格布魯稱這是一個關鍵時刻，也是「系統性種族主義的赤裸裸的例子」。 2001 年，格布魯被史丹佛大學錄取。 在那裡，她獲得了電機工程學士和理學碩士學位 ，並於 2017 年獲得了電腦視覺博士學位 。 格布魯在攻讀博士學位期間曾得到李飛飛的指導。 在 2008 年美國總統大選期間，格布魯為巴拉克歐巴馬拉票。 格布魯在 2017 年 LDV Capital Vision Summit 競賽中展示了她的博士研究成果，電腦視覺科學家在會上向業界和風險投資家展示了他們的研究成果。格布魯贏得了競賽，並開始了與其他企業家和投資者的一系列合作。 2016 年和 2018 年，在攻讀博士學位期間，格布魯都帶著 Jelani Nelson 的撰寫程式活動 AddisCoder 回到了伊索匹亞。 在攻讀博士學位期間，格布魯撰寫了一篇從未發表的論文，闡述了她對人工智慧未來的擔憂之處。她以自己與警察打交道的經歷，以及 ProPublica 對預測性警務的調查為中心，論述了該領域缺乏多樣性的危險，該調查揭示了機器學習中存在的人類偏見狀況。在論文中，她嚴厲批評了「男孩俱樂部文化，回顧了她在會議聚會上被醉酒的男性與會者性騷擾的經歷，並批評了該領域名人的英雄崇拜。 事業 20042013 年：蘋果公司軟體開發 格布魯在史坦佛大學就讀期間以實習生身份加入蘋果公司，在公司硬體部門負責製作聲音元件電路，並於次年獲得全職職位。談到她作為聲音工程師的工作，她的上級告訴《連線》雜誌，她「無所畏懼，深受同事的喜愛。在蘋果任職期間，格布魯對於開發發軟體產生了濃厚的興趣，尤其是可以檢測人形的電腦視覺軟體。 她繼續為第一代 iPad 開發訊號處理演演算法。 當時，她表示自己並沒有老慮其潛在的監視用途，並表示「我只是覺得這在技術上很有趣。」 在離開公司很久之後，在 2021 年夏天由蘋果工程師 Cher Scarlett 領導的 AppleToo 運動中，她曾為格布魯提供諮詢。 格布魯透露，她經歷了「太多令人震驚的事情」，並且「總是想知道他們是如何設法擺脫鎂光燈的」。 她說，蘋果早就應該承擔責任了，並警告說他們不能再繼續低調行事了。 格布魯還批評了媒體對蘋果和其他科技巨頭的報導方式，稱媒體幫助這些公司免受大眾監督。 20132017 年：史丹佛大學和微軟的研究工作 2013 年，格布魯加入史丹佛大學李飛飛的實驗室。她對公開可及的圖片進行了資料探資料探勘。 她對政府和非政府組織為收集社群資訊所花費的資金很感興趣。 為了研究替代方案，格布魯將深度學習與 Google 街景相結合，估算了美國社群的人口統計資料，表明可以透過對汽車的觀察推斷出投票模式、收入、種族和教育等社會經濟屬性。 如果皮卡車的數量超過轎車的數量，那麼該社群就更有可能投票給共和黨。 他們分析了美國 200 座人口最多的城市的 1500 多萬張圖片。 該作品被媒體廣泛報導，被 BBC 新聞、新聞週刊、經濟學人和紐約時報轉載。 2015 年，格布魯參加了在加拿大蒙特婁舉行的該領域的頂尖大會神經資訊處理系統（NIPS）。她指出，在 3700 名參與者當中，她是僅有的幾位黑人研究人員之一。 第二年，當她再次出席會議時，她統計了一下，發現出席會議的 8500 名代表中只有 5 名黑人男性，而她是唯一的黑人女性。 格布魯與同事 Rediet Abebe 共同創辦了 Black in AI ，這是一間致力於人工智慧的黑人研究人員社群。 2017 年夏天，格布魯加入微軟，擔任人工智慧公平性、問責制、透明度和道德（FATE）實驗室的博士後研究員。 2017 年，格布魯在公平與透明會議上發表了講話，麻省理工學院技術評論採訪了她，探討了人工智慧系統中存在的偏見以及如何透過增加人工智慧團隊的多樣性來解決這一問題。在接受傑娸史諾（Jackie Snow）採訪時，史諾問格布魯：「缺乏多樣性會如何扭曲人工智慧，特別是電腦視覺？「格布魯指出，軟體開發人員存在偏見。 在微軟任職期間，格布魯與人合作撰寫了一篇主題名為《性別陰影》的研究論文 ，該論文後來成為麻省理工學院一項更廣泛的專案名稱，該專案由共同作者喬伊布蘭維尼 Joy Buolamwini 帶頭。兩人研究了臉部辨識軟體，發現在某些特定的應用當中，黑人女性被識別的可能性比白人男性低 35。 20182020 年：Google 的人工智慧倫理 格布魯於 2018 年加入 Google，與瑪格麗特米切爾共同領導一個人工智慧倫理團隊。她研究人工智慧的含議，希望提高技術程度造福社會的能力。 2019 年，格布魯和其他人工智慧研究人員「簽署了一封信，呼籲亞馬遜停止向執法機構出售其臉部辨識技術，因為該技術對女性和有色人種存在偏見，並引用了麻省理工學院研究人員進行的一項研究，該研究表明，亞馬遜的臉部辨識系統在識別深色皮膚女性方面比任何其他科技公司的臉部識別軟體都更困難。 在接受《紐約時報》採訪時，格布魯進一步表示，她認為臉部辨識太危險了，目前不適合用在執法和反恐目的。 離開 Google 2020 年，格布魯與 5 位合著者撰寫了一篇名稱為《論隨機鸚鵡的危險：語言模型會太大嗎？ 》的論文。該篇論文研究了規模非常大的語言模型的風險，包括模型對環境的影響、財務成本、大型模型的不可預測性、大型語言模式 LLM 對某些族群表現出偏見的可能性、大型語言模式 LLM 無法理解其處理的語言，以及利用大型語言模型 LLM 散播假訊息。 2020 年 12 月，她與 Google 的聘僱關係終止，因為 Google 高層要求她要麼在發表前撤回論文，要麼從論文中刪除所有 Google 員工的名字。 六位作者中，只有 Emily M Bender 當時不在 Google 任職。 在一封寄給內部合作名單，長達六頁的郵件當中，格布魯描述了她如何在短時間內被召集參加會議，在會議中她被要求撤回論文，並要求得知做出該決議的每位人的姓名和理由，以及如何根據 Google 的喜好對論文進行修改的建議。她表示，如果沒有得到這些資訊，她將在適當的時間後與 Google 確定聘僱關係結束日期。 Google 沒有滿足她的要求，而是立即終止了與她的聘僱關係，並宣佈接受了她的辭職。 Google 人工智慧研究主管 Jeff Dean 在一封電子郵件中回復稱，他們做出這項決定是因為這篇論文忽略了太多近期相關主題的研究成果，這些研究涉及如何舒緩其中描述的一些問題、環境影響以及這些模型的偏見。 迪恩接著發布了關於格布魯魯離職的內部電子郵件以及他對此事的看法，為 Google 的研究論文流程辯護，稱其「主要在解決雄心勃勃的問題，但要負責任得解決」。格布魯和其他人指責這封最初的郵件以及迪恩隨後典此事的沉默，催化並助長了緊隨其後的騷擾。格布魯在推特上遭到多個傀儡帳戶和網路白目的連續騷擾，發表種族主議和淫穢言論。格布魯和她的支持者聲稱，部分騷擾來自機器學習研究員佩德羅多明戈斯 Pedro Domingos 和商人邁克爾利薩克 Michael Lissack ，他們稱格布魯的工作是 以科學為幌子的宣傳。 據稱，利薩克還騷擾了米切爾、本德以及格布魯前團隊的其他同事。 Twitter 於 2021 年 2 月 1 日暫時暫停了利薩克的帳戶連線許可權。 格布魯一直堅稱自己是被解僱的，近 2700 名 Google 員工和超過 4300 名學者以及民間社會支持者簽署了一封信，遣責 Google 解僱格布魯的事情。 9 名國會議員致信 Google，要求其澄清蒂姆尼特格布魯離職的相關情況。 格布魯的前團隊成員要求將副總裁梅根卡喬利亞 Megan Kacholia 從團隊管理當中除名。 據稱，卡喬利亞在未事先通知格布魯的直屬上司薩米本吉奧 Samy Bengio 的情況下解僱了格布魯， 格布魯的前團隊要求卡喬利亞和迪恩為格布魯受到的待遇道歉。 米切爾在推特上批評 Google 對待致力於消除人工智慧偏見和惡質言論員工的方式，包括涉嫌解僱格布魯。米切爾後來因涉嫌洩露機密商對敏感檔案和其他員工的私人資料而被解僱。 在格布魯離職情況遭到負面報導後，Google 母公司 Alphabet 的執行長桑達爾皮查伊 Sundar Pichai 在推特上公開道歉，但沒有說明格布魯是被解僱還是辭職 ，並對此事展開了長達數月的調查。 審查結束後，迪恩宣佈 Google 將改變「處理某些員工離職的方式」，但仍未澄清格布魯離開 Google 是否是自願的。 此外，迪恩表示，將對涉及「敏感」主題的研究論文的審查方式做出改變，並將每季向 Alphabet 董事會報告多元化、公平和包容性目標。格布魯在推特上寫道，她對 Google「沒有抱有更多期待」，並指出這些變化是由於她被解僱時提出的要求而產生的，但沒有人為此承擔擔責任。 此後，兩名 Google 員工辭去了公司職務。 在她離職後，Google 舉辦了一場論壇，討論公司遭遇種族歧視的經歷。員工向 NBC 新聞報導，論壇有一半時間都在詆毀格布魯，他們認為公司是在拿她敢於直言的言論來殺雞儆猴。隨後，一名有治療師執照，為 Google 的黑人員工舉行了一次團體心理治理，員工表示，治療師對格布魯被解僱給他們造成的傷害不以為然。 自 2021 年起：獨立研究 2021 年 11 月，內森卡明斯基金會與 Open MIC 合作，並得到 Color of Change 的支援， 提交了一份股東提案，呼籲進行「種族平等審計」，以分析 Alphabet 對「黑人、土著和有色人種 BIPOC 社群」的「不利影響」。該提案還要求調查 Google 是否對提出歧視擔憂的少數族裔員工進行了報復， 理由是格布魯被解僱、她之前敦促 Google 聘僱更多 BIPOC，以及她對 Google 技術中種族偏見的研究。 此項提議是應科裡布克 Cory Booker 帶領的參議院民主黨核心小組成員當年早些時候提出的一項非正式請求而提出的，他們也提到了格布魯已與該公司及她的分道揚鑣。 2021 年 12 月，路透社報導稱，Google 因公司對待黑人女性的方式而受到加州公平就業和住房部 DFEH 的調查， 在此之前，現任和前任員工正式投投訴 Google 存在歧視和騷擾行為。 此前，格布魯和其他 BIPOC 員工報告稱，當他們向人力資源部講述自己遭受種族歧視和性別歧視的經歷時，人力資源部建議他們休病假，並透過公司的員工援助計劃 EAP 接受治療。 格布魯和其他人認為，她被解僱是報復行動，也是 Google 存在制度性種族主義的證據。 Google 表示，公司「將繼續專注於這項重要工作專案，並徹底調查任何問題，以確確保 Google 具有代表性和公平性。 2021 年 6 月，格布魯宣佈她正在籌集資金，「以她在 Google 道德 AI 團隊的工作經歷和她在 Black in AI 的經驗為藍本，創辦一間獨立研究機構。」 2021 年 12 月 2 日，她成立了分散式人工智慧研究所 DAIR，預計將記錄人工智慧對弱勢族群的影響，重點關注非洲和美國的非洲移民。 該組織最初的專案之一是計劃運用人工智慧分析南非城鎮的衛星影像，以更好地瞭解種族隔離的遺留的問題。 格布魯和 Émile P Torres 使用首字母縮略詞 TESCREAL 來批評評他們所看到的一組重疊的未來主義哲學：超人類主義、外主義、奇點主義、宇宙主義、理性主義、有效利他主義和長期主義。格布魯認為，這些理論都造就科技巨頭內部的右傾影響，並將這些支持者比作「20 世紀的優生學家」，他們生產的一些惡質專案卻被他們描繪成「造福人類」。 格布魯批評通用人工智慧（AGI）的研究根植於優生學。格布魯指出，人們的注意力應該從 AGI 上轉移開，嘗試構建 AGI 本質上是一種不安全的作法。 獎項與認可 格布魯、Buolamwini 和 Inioluwa Deborah Raji 憑藉其研究突顯了臉部辨識演演算法當中的偏見嚴重問題，獲得了 VentureBeat 2019 年 AI 創新獎 AI for Good 類別。 格布魯被《財富》雜誌評為 2021 年全球 50 位最偉大大領導者之一。科學雜誌《自然》列出了 2021 年在科學發展中發揮重要作用的十位科學家，格布魯名列其中。 格布魯被《時代》雜誌評為 2022 年最具影響力的人物之一。 2023 年，格布魯被紐約卡內基公司授予 偉大移民獎 獲獎者。 2023 年 11 月，她被列入 BBC「巾幗百名」名單。 選擇出版物 參見 程式碼偏差 克萊爾斯塔普爾頓 梅雷迪斯惠特克 張淑菲 參考文獻 外部連結 史丹佛大學簡介 Category 亞的斯亞貝巴人 Category 史丹佛大學校友 Category 微軟僱員 Category 機器學習研究者 CategoryGoogle 僱員 Category 人工智慧研究者 Category 蘋果公司員工 Category 美國女性社會科學家 Category 美國女性計算機科學家 Category 美國社會科學家 Category 美國計算機科學家 Category 非洲裔美國社會運動者 Category21 世紀美國女性科學家 Category21 世紀美國企業家 Category21 世紀非洲裔美國女性