# Timnit Gebru

Timnit Gebru (Addis Abeba, 13 de maig de 1983) és una científica en computació etíop, especialitzada en algorismes de mineria de dades i biaix algorítmic. També advoca per la defensa de la diversitat en la tecnologia i és cofundadora de Black in AI, una comunitat d'investigadors negres que treballen en intel·ligència artificial.
Al desembre de 2020, la van acomiadar del seu lloc de feina com a tècnica colíder de l'Equip d'Intel·ligència Artificial Ètica de Google després de negar-se a acomplir una sol·licitud que directors de rang superior li van fer en demanar-li de retirar d'un informe, que estava a punt publicar, els noms de tots els empleats de Google esmentats en aquell informe (incloent el seu mateix). Va rebutjar-ho, sol·licitant els noms i les raons de les persones que havien pres aquesta decisió, i va amenaçar de renunciar si no li proporcionaven aquella informació. Google no va complir la seva petició i la van acomiadar immediatament . Google va declarar que l'informe en qüestió, titulat On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?, ignorava recerques recents que mostraven mètodes per mitigar el biaix en aquells sistemes.

## Educació i joventut

Gebru va néixer i va créixer a Addis Abeba, Etiòpia. El seu pare va morir quan ella tenia cinc anys d'edat. Tots dos pares eren d'Eritrea. Pel fet de ser eritreana, Gebru es va veure sotmesa a una deportació forçada durant la Guerra entre Etiòpia i Eritrea obligant-la a fugir d'Etiòpia a l'edat de 15 anys. Finalment va sol·licitar asil polític que va ser acceptat als Estats Units.
Després de completar els estudis superiors a l'Institut de Massachusetts, va ser acceptada per a estudiar a la Universitat Stanford. Allí va obtenir el mestratge en enginyeria elèctrica. Gebru va treballar a Apple, desenvolupant el senyal que processa algorismes per al primer iPad. Va obtenir el doctorat sota l'assessoria de Fei-Fei Li en la Universitat Stanford en 2017. Va utilitzar mineria de dades d'imatges disponibles públicament. Es va interessar per la quantitat de diners gastats per organitzacions governamentals i no governamentals intentant recollir informació sobre comunitats. Per investigar alternatives, Gebru va combinar aprenentatge profund amb Google Street View per estimar la demografia de barris als Estats Units, mostrant que atributs socioeconòmics com a inclinació política, ingressos, carrera i educació poden ser inferits per l'observació d'actuacions. Si la quantitat de camions pickup supera el nombre de sedans, la comunitat serà més inclinada a votar per al partit Republicà. Es van analitzar més de 15 milions d'imatges de les 200 ciutats més poblades de EUA. El treball va ser extensament seguit en els mitjans de comunicació com a BBC News, Newsweek, The Economist, i The New York Times.
Gebru va presentar la seva recerca a la competència 2017 LDV Capital Vision Summit, on científics de visió per ordinador presenten els seus treballs a membres d'indústria i inversors. Gebru va guanyar la competició i va començar una sèrie de col·laboracions amb altres emprenedors i inversors. Tots dos durant el seu programa de PhD durant 2016 i en 2018, Gebru va tornar a Etiòpia amb Jelani Nelson per a treballar en la campanya AddisCoder. Després de rebre el seu PhD, Gebru es va unir a Microsoft com a investigadora de postdoctorada al laboratori d'Equitat, Responsabilitat, Transparència i Ètica en Intel·ligència Artificial (FATE sigles en anglès).

## Carrera i recerques

Gebru va treballar en Google en el departament d'intel·ligència artificial ètica. Allí va estudiar les implicacions de la intel·ligència artificial, buscant millorar la capacitat de la tecnologia per fer el bé social. Va col·laborar amb el MIT en el seu grup de recerques Gender Shades. Gebru va treballar amb Joy Buolamwini per a investigar un programari de reconeixement facial; trobant que les dones negres tenen 35 % menys de probabilitats de ser reconegudes que els homes blancs. Quan Gebru va assistir a una conferència d'intel·ligència artificial el 2016, va notar que era l'única dona negra dels 8.500 delegats presents. Juntament amb el seu col·lega Rediet Abebe, Gebru va fundar Black in AI, una comunitat d'investigadors negres que treballen en intel·ligència artificial.
Gebru també va treballar a l'equip del departament de Microsoft de Justícia, Imputabilitat, Transparència, i Ètiques. El 2017, Gebru va parlar a la conferència Fairness and Transparency (Justícia i Transparència), on MIT Technology Review la va entrevistar sobre els biaixos que hi ha en els sistemes d'intel·ligència artificial i com agregar diversitat en els equips d'intel·ligència artificial pot solucionar aquest problema. Gebru i altres investigadors d'intel·ligència artificial van signar una carta que reflectia els problemes sistèmics que resideixen en el programari de reconeixement facial de Amazon. Un estudi elaborat per investigadors del MIT mostra que el sistema de reconeixement facial de Amazon tenia més problemes per a identificar a les dones de pell més fosca que el programari de reconeixement facial de qualsevol altra empresa de tecnologia. En una entrevista del New York Times, Gebru va expressar a més de que creu que el reconeixement facial és massa perillós per a ser utilitzat amb finalitats policials i de seguretat en aquest moment.

## Sortida de Google

Gebru va plegar de treballar per a Google al desembre de 2020. Les circumstàncies de la seva sortida són discutides. Gebru i alguns dels seus companys de feina van afirmar que l'havien acomiadat de Google. Els executius de Google, Jeff Dean i Megan Kacholia, van afirmar que ella es va oferir a renunciar i que Google va acceptar posteriorment la seva renúncia. Va afirmar que de cap manera no s'havia ofert a renunciar, sinó que només havia amenaçat de fer-ho.

## Premis

Gebru, Joy Buolamwini i Inioluwa Raji van guanyar el premi AI Innovations Award 2019 de VentureBeat en la categoria AI for Good per la seva recerca que destaca un problema significatiu del biaix algorítmic en el reconeixement facial.

## Publicacions

* Gebru, Timnit; Krause, Jonathan; Wang, Yilun; Chen, Duyun; Deng, Jia «Using deep learning and Google Street View to estimate the demographic makeup of neighborhoods across the United States» (en anglès). Proceedings of the National Academy of Sciences, 114, 50, 12-12-2017, pàg. 13108–13113. DOI: 10.1073/pnas.1700035114. ISSN: 0027-8424. PMC: 5740675. PMID: 29183967.
* Buolamwini, Joy; Gebru, Timnit «Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification». Proceedings of Machine Learning Research, 81, 2018, pàg. 1–15. ISSN: 1938-7288.
* Gebru, Timnit. «Race and Gender». A: Dubber. The Oxford Handbook of Ethics of AI (en anglès). Oxford University Press, 2020-07-09, p. 251–269. DOI 10.1093/oxfordhb/9780190067397.013.16. ISBN 978-0-19-006739-7.

## Referències

* ↑ Metz, Cade «Google Researcher Says She Was Fired Over Paper Highlighting Bias in A.I.» (en anglès). , 03-12-2020 [Consulta: 17 maig 2021].
* ↑ «We read the paper that forced Timnit Gebru out of Google. Here’s what it says.» (en anglès). MIT Technology Review, 04-12-2020 [Consulta: 5 desembre 2020].
* ↑ «Top AI ethics researcher says Google fired her; company denies it». Arxivat de l'original el 2020-12-05. [Consulta: 4 desembre 2020].
* ↑ «The controversy behind a star Google AI researcher’s departure» (en anglès). Vox, 04-12-2020 [Consulta: 6 desembre 2020].
* ↑ «Timnit Gebru: Google staff rally behind fired AI researcher». Arxivat de l'original el 2020-12-04. [Consulta: 4 desembre 2020].
* ↑ «Google fires prominent AI ethicist Timnit Gebru». Arxivat de l'original el 2020-12-03. [Consulta: 4 desembre 2020].
* ↑ «Google's co-lead of Ethical AI team says she was fired for sending an email». Arxivat de l'original el 2020-12-04. [Consulta: 4 desembre 2020].
* ↑ «Renowned AI researcher says Google abruptly fired her, spurring industrywide criticism of the company». Arxivat de l'original el 2020-12-04. [Consulta: 4 desembre 2020].
* ↑ Langley, Hugh. «One of Google's leading AI researchers says she's been fired in retaliation for an email to other employees», 03-12-2020. Arxivat de l'original el 2020-12-05. [Consulta: 3 desembre 2020].
* ↑ «Timnit Gebru: Google staff rally behind fired AI researcher». Arxivat de l'original el 2020-12-25. [Consulta: 5 desembre 2020].
* ↑ On the name of the paper; On it still being planned for publication; Higher managers; Dispute escalating
* ↑ Fried. «Google CEO pledges to investigate exit of top AI ethicist» (en anglès). Axios. Arxivat de l'original el 2020-12-10. [Consulta: 10 desembre 2020].
* 1 2 Lahde. «AI Innovators: How One Woman Followed Her Passion and Brought Diversity to AI» (en anglès). Forbes. Arxivat de l'original el 2019-01-10. [Consulta: 9 gener 2019].
* ↑ Chisling. «Excuse me, sir, but where are all the women?» (en anglès). ROSS Intelligence, 24-07-2017. Arxivat de l'original el 2019-01-10. [Consulta: 9 gener 2019].
* ↑ «Archived copy». Arxivat de l'original el 2020-12-07. [Consulta: 14 desembre 2020].
* ↑ AI. «Timnit Gebru honored as an Alicorn of Artificial Intelligence by People in AI». Selfpreneur, 16-09-2017. Arxivat de l'original el 2020-12-05. [Consulta: 9 gener 2019].
* ↑ «Timnit Gebru» (en anglès americà). Databricks. Arxivat de l'original el 2019-01-10. [Consulta: 9 gener 2019].
* ↑ «Understanding the Limits of AI: When Algorithms Fail». MIT Tech Review. Arxivat de l'original el 2020-12-05. [Consulta: 9 gener 2019].
* ↑ Fei-Fei, Li; Aiden, Erez Lieberman; Deng, Jia; Chen, Duyun; Wang, Yilun «Using deep learning and Google Street View to estimate the demographic makeup of neighborhoods across the United States» (en anglès). Proceedings of the National Academy of Sciences, 114, 50, 12-12-2017, pàg. 13108–13113. DOI: 10.1073/pnas.1700035114. ISSN: 1091-6490. PMC: 5740675. PMID: 29183967.
* 1 2 «Timnit Gebru». Design Better. Arxivat de l'original el 2019-01-10. [Consulta: 9 gener 2019].
* ↑ Lufkin. «What Google Street View tells us about income» (en anglès). Worklife. BBC, 06-01-2018. Arxivat de l'original el 2019-01-10. [Consulta: 9 gener 2019].
* ↑ «Timnit Gebru Wins 2017 ECVC: Leveraging Computer Vision to Predict Race, Education and Income via Google Streetview Images» (en anglès americà). LDV Capital. Arxivat de l'original el 2019-01-10. [Consulta: 9 gener 2019].
* ↑ Magazine. «Timnit Gebru: Among Incredible Women Advancing A.I. Research at Tadias Magazine». Arxivat de l'original el 2019-01-10. [Consulta: 9 gener 2019].
* ↑ «History | AddisCoder». www.addiscoder.com. Arxivat de l'original el 2018-03-21. [Consulta: 10 gener 2019].
* ↑ «Timnit Gebru» (en anglès americà). World Science Festival. Arxivat de l'original el 2019-01-10. [Consulta: 9 gener 2019].
* ↑ University. «Digital Life Seminar | Timnit Gebru» (en anglès). Cornell. Arxivat de l'original el 2019-01-10. [Consulta: 9 gener 2019].
* ↑ «Team». MIT Media Lab. Arxivat de l'original el 2019-07-25. [Consulta: 9 gener 2019].
* ↑ Birhaner. «Ethiopian Ms. Timnit Gebru Fights Algorithmic Bias And Homogenous Thinking in A.I.» (en anglès americà). De Birhan, 26-05-2017. Arxivat de l'original el 2018-10-23. [Consulta: 9 gener 2019].
* ↑ Ghaffary. «The controversy behind a star Google AI researcher's departure» (en anglès). Vox, 04-12-2020. Arxivat de l'original el 2020-12-06. [Consulta: 6 desembre 2020].
* ↑ «Google workers mobilize against firing of top Black female executive» (en anglès). NBC News. Arxivat de l'original el 2020-12-05. [Consulta: 5 desembre 2020].
* ↑ «AI innovation winners announced in San Francisco» (en anglès americà). Innovation Matrix, 12-07-2019. Arxivat de l'original el 2020-07-12. [Consulta: 12 juliol 2020].
* ↑ Burt. «Buolamwini, Gebru and Raji win AI Innovation Award for research into biometric bias» (en anglès americà). Biometric Update, 18-07-2019. Arxivat de l'original el 2020-07-12. [Consulta: 12 juliol 2020].

## Enllaços externs

* Perfil a Stanford Universitat