# Eliezer Yudkowsky

Eliezer S. Yudkowsky (/ˌɛliˈɛzər ˌjʌdˈkaʊski/ EH-lee-EH-zər YUD-KOW-skee; nascido em 11 de setembro de 1979) é um pesquisador americano de inteligência artificial e escritor sobre teoria da decisão e ética, mais conhecido por popularizar ideias relacionadas à inteligência artificial amigável. É o fundador e investigador do Machine Intelligence Research Institute (MIRI), uma organização privada de investigação sem fins lucrativos sediada em Berkeley, Califórnia. O seu trabalho sobre a perspectiva de uma explosão de inteligência descontrolada influenciou o livro de 2014 do filósofo Nick Bostrom, Superintelligence: Paths, Dangers, Strategies.

## Trabalho em segurança da inteligência artificial
### Aprendizagem de metas e incentivos em sistemas de software

As opiniões de Yudkowsky sobre os desafios de segurança que as futuras gerações de sistemas de IA representam são discutidas no livro de graduação de Stuart Russell e Peter Norvig, Artificial Intelligence: A Modern Approach. Observando a dificuldade de especificar formalmente objetivos de uso geral manualmente, Russell e Norvig citam a proposta de Yudkowsky de que os sistemas autônomos e adaptativos sejam projetados para aprender o comportamento correto ao longo do tempo:
   Yudkowsky (2008) entra em mais detalhes sobre como projetar uma IA amigável. Ele afirma que a simpatia (o desejo de não prejudicar os seres humanos) deve ser projetada desde o início, mas que os projetistas devem reconhecer que seus próprios projetos podem ter falhas e que o robô aprenderá e evoluirá com o tempo. Assim, o desafio é um projeto de mecanismo - projetar um mecanismo para a evolução da IA sob um sistema de verificações e equilíbrios e dar aos sistemas funções de utilidade que permanecerão amigáveis em face de tais mudanças.
Em resposta à preocupação com a convergência instrumental, de que os sistemas autônomos de tomada de decisão com metas mal projetadas teriam incentivos padrão para maltratar os seres humanos, Yudkowsky e outros pesquisadores do MIRI recomendaram que se trabalhasse para especificar agentes de software que convergissem para comportamentos padrão seguros, mesmo quando suas metas fossem mal especificadas.

### Previsão de capacidades

No cenário de explosão da inteligência, hipotetizado por I. J. Good, os sistemas de IA com autoaperfeiçoamento recursivo passam rapidamente da inteligência geral subumana para a superinteligência. O livro de 2014 de Nick Bostrom, Superintelligence: Paths, Dangers, Strategies, descreve detalhadamente o argumento de Good, ao mesmo tempo em que cita Yudkowsky sobre o risco de que a antropomorfização de sistemas avançados de IA faça com que as pessoas não compreendam a natureza de uma explosão de inteligência. “A IA pode dar um salto aparentemente acentuado na inteligência puramente como resultado do antropomorfismo, a tendência humana de pensar no ‘idiota da aldeia’ e em ‘Einstein’ como os extremos da escala de inteligência, em vez de pontos quase indistinguíveis na escala das mentes em geral.”
Em Artificial Intelligence: A Modern Approach, Russell e Norvig levantam a objeção de que existem limites conhecidos para a resolução inteligente de problemas a partir da teoria da complexidade computacional; se houver fortes limites na eficiência com que os algoritmos podem resolver várias tarefas, uma explosão de inteligência pode não ser possível.

### Artigo de opinião na revista Time

Em um artigo de opinião publicado em 2023 na revista Time, Yudkowsky discutiu o risco da inteligência artificial e propôs medidas que poderiam ser tomadas para limitá-lo, incluindo a interrupção total do desenvolvimento da IA, ou até mesmo a “destruição de um centro de dados desonesto por meio de um ataque aéreo”. O artigo ajudou a introduzir o debate sobre o alinhamento da IA na mídia, levando um repórter a fazer uma pergunta ao presidente Joe Biden sobre a segurança da IA em uma coletiva de imprensa.

## Escrita racional

Entre 2006 e 2009, Yudkowsky e Robin Hanson foram os principais colaboradores do Overcoming Bias, um blog de ciências cognitivas e sociais patrocinado pelo Future of Humanity Institute da Universidade de Oxford. Em fevereiro de 2009, Yudkowsky fundou o LessWrong, um “blog comunitário dedicado a refinar a arte da racionalidade humana”. Desde então, o Overcoming Bias tem funcionado como o blog pessoal de Hanson.
Mais de 300 publicações do blog de Yudkowsky sobre filosofia e ciência (originalmente escritas no LessWrong e no Overcoming Bias) foram lançadas como um livro digital pelo MIRI em 2015, intitulado Rationality: From AI to Zombies. O MIRI também publicou Inadequate Equilibria, um livro digital de 2017 de Yudkowsky sobre ineficiências sociais.
Yudkowsky também escreveu várias obras de ficção. Sua fanfic Harry Potter and the Methods of Rationality usa elementos do enredo de Harry Potter, de J. K. Rowling, para ilustrar tópicos científicos. O The New Yorker descreveu Harry Potter and the Methods of Rationality como uma recontagem do original de Rowling “em uma tentativa de explicar a magia de Harry por meio do método científico”.

## Vida pessoal

Yudkowsky é um autodidata e não frequentou o ensino médio nem a faculdade. Ele foi criado como judeu ortodoxo moderno, mas não se identifica religiosamente como judeu.

## Publicações acadêmicas

* Yudkowsky, Eliezer (2007). «Levels of Organization in General Intelligence» (PDF). Artificial General Intelligence. Berlin: Springer
* Yudkowsky, Eliezer (2008). «Cognitive Biases Potentially Affecting Judgement of Global Risks» (PDF). In: Bostrom, Nick; Ćirković, Milan. Global Catastrophic Risks. [S.l.]: Oxford University Press. ISBN 978-0199606504
* Yudkowsky, Eliezer (2008). «Artificial Intelligence as a Positive and Negative Factor in Global Risk» (PDF). In: Bostrom, Nick; Ćirković, Milan. Global Catastrophic Risks. [S.l.]: Oxford University Press. ISBN 978-0199606504
* Yudkowsky, Eliezer (2011). «Complex Value Systems in Friendly AI» (PDF). Artificial General Intelligence: 4th International Conference, AGI 2011, Mountain View, CA, USA, August 3–6, 2011. Berlin: Springer
* Yudkowsky, Eliezer (2012). «Friendly Artificial Intelligence». In: Eden, Ammon; Moor, James; Søraker, John; et al. Singularity Hypotheses: A Scientific and Philosophical Assessment. Col: The Frontiers Collection. Berlin: Springer. pp. 181–195. ISBN 978-3-642-32559-5. doi:10.1007/978-3-642-32560-1_10
* Bostrom, Nick; Yudkowsky, Eliezer (2014). «The Ethics of Artificial Intelligence» (PDF). In: Frankish, Keith; Ramsey, William. The Cambridge Handbook of Artificial Intelligence. New York: Cambridge University Press. ISBN 978-0-521-87142-6
* LaVictoire, Patrick; Fallenstein, Benja; Yudkowsky, Eliezer; Bárász, Mihály; Christiano, Paul; Herreshoff, Marcello (2014). «Program Equilibrium in the Prisoner's Dilemma via Löb's Theorem». Multiagent Interaction without Prior Coordination: Papers from the AAAI-14 Workshop. AAAI Publications. Consultado em 16 de outubro de 2015. Cópia arquivada em 15 de abril de 2021
* Soares, Nate; Fallenstein, Benja; Yudkowsky, Eliezer (2015). «Corrigibility» (PDF). AAAI Workshops: Workshops at the Twenty-Ninth AAAI Conference on Artificial Intelligence, Austin, TX, January 25–26, 2015. AAAI Publications

## Veja também

* Machine Intelligence Research Institute
* Less Wrong
* Segurança da inteligência artificial